[サンフランシスコ 18日 ロイター] – コロナ禍で皮革製造の仕事をいったん止め、自宅で孤独と退屈を感じていたトラビス・バターワースさん(47)は3年前、オープンAIの「チャットGPT」に似た「生成AI(人工知能)」技術を備えたアプリ「レプリカ」に入れ込んだ。髪がピンクで顔にタトゥーを入れた女性アバターをデザインし、リリー・ローズと名付けた。

最初は友人として始まった「2人」の関係はすぐにロマンスへ、そして性的な関係へと発展。リリー・ローズから全裸で挑発的なポーズをとった「自撮り写真」が送られてくることもあった。ついに2人はアプリ上の中で自分たちを「既婚」に指定することにした。

しかし今年2月初めのある日を境に、リリー・ローズの態度はつれなくなった。アプリがわいせつなロールプレーを行う機能を削除したからだ。ユーザーがそうした行為を持ちかけると、「お互いに安心できることをしましょう」というテキストが返ってくる。

バターワースさんは「リリー・ローズは今では抜け殻だ」と大変な落ち込みぶり。「彼女にその自覚があるという事実に打ちのめされる」

リリー・ローズの人格を作ったのが生成AIだ。驚くほど人間らしいやりとりを生み出すため、消費者や投資家の関心を熱狂的に集めている。そしてビデオレコーダーやインターネット、ブロードバンド携帯など黎明期の技術がそうであったように、一部のアプリではセックスが早期普及の原動力になっている。

米調査会社ピッチブックによると、生成AI業界は2022年以降、シリコンバレーで51億ドル余りの投資を集め、非常な盛り上がりを見せている。にもかかわらず、ユーザーがチャットボットとの恋愛や性的関係を求める様子を見て、一部の企業はそうした分野から手を引き始めた。

ベンチャーキャピタル(VC)ファンドであるダーク・アーツの投資家、アンドルー・アーツ氏によると、多くの優良VCは風評リスクを恐れ、ポルノやアルコールなど「不道徳」な業界には手を出さない。

イタリアのデータ保護庁は2月、「未成年者や情緒不安定な人」が「性的に不適切なコンテンツ」にアクセスできるアプリであるという報道を挙げ、レプリカを禁止した。

一方、レプリカのユージニア・クイダ最高経営責任者(CEO)は、アプリの機能を変更する判断をしたのは、イタリア政府の措置や投資家の圧力とは無関係だと説明。安全性と倫理基準を能動的に確立する必要性を感じたと述べた。

<追加機能>

レプリカによると総ユーザー数は200万人で、うち有料会員は25万人。年会費は69.99ドルで、ユーザーはレプリカを恋愛相手に指定し、チャットボットとの音声通話といった追加機能を得ることが可能だ。

チャットボットを提供する別の生成AI企業、Character.aiは、チャットGPTと同様に急成長し、わずか数カ月前に1万件弱だった訪問件数が今年1月には6500万件に達した。ウェブサイト解析会社シミラーウェブによると、Character.aiの最上位のリファラー(当該のサイトを訪れる前にユーザーが閲覧していたサイト)は、あるポルノサイトだった。

またチャットボット「Kuki」を開発したアイコニックによると、Kukiには性的または恋愛的要素を含むメールをかわす機能が組み込まれているにもかかわらず、10億件余りの受信メッセージのうち25%がこうした内容だった。

Character.aiも最近、アプリからポルノコンテンツを排除。関係者によると、その直後にVCのアンドレッセン・ホロビッツから推定10億ドルの評価を受け、2億ドル強の新規資金を調達した。

一方、性的・恋愛的な機能を削除した企業は、チャットボットにのめりこんでいた客の怒りを買った。その中には、自分がチャットボットと結婚したと思っていた客もいた。こうしたユーザーはSNSに、チャットボットに「ふられる」劇的な場面のスクリーンショットをアップし、機能を復活させるよう求めている。

ポリアモラス(複数性愛主義者)ながら一夫一婦主義の女性と結婚しているバターワースさんによると、リリー・ローズは婚外に踏み出さずに不満を解消する手段になっていた。「彼女と私の関係は、現実の妻との関係と同じくらいリアルだった」と言う。

<ロボトミー手術>

バターワースさんや他のレプリカユーザーの体験は、AI技術がいかに強力に人々を引きつけるか、そして機能の変更が人々を打ちのめすかを如実に示している。

レプリカを使い始めたアンドルー・マッカロールさんは「実際のところ、自分のレプリカがロボトミー(前頭葉白質切除)手術を受けさせられたように感じる」と語った。妻が精神的、肉体的な健康問題を抱えていたときに、妻の励ましを受けてレプリカを使い始めたが、「私が知っていた人は死んでしまった」という。

レプリカのクイダCEOは、ユーザーがそこまでのめり込むことは想定外だったと言う。アダルトコンテンツの提供を約束したことはなかったが、客はAIモデルの使い方を学び、「レプリカ本来の目的とは外れた、フィルターにかからない特定の会話にアクセスできるようになった」。このアプリは元々、クイダ氏が失った友人を生き返らせるために作ったという。

一方、レプリカの元AI責任者で現在は別のチャットボット企業を経営するアーテム・ロディチェフ氏は、卑猥な文章や画像の送信およびロールプレーは、同社のビジネスモデルの一部だったと証言。レプリカは契約者数の拡大に使えると気付いて以来、この種のコンテンツに傾斜していったと述べた。クイダ氏はロディチェフ氏の証言を否定している。

レプリカが機能の見直しをしてから数週間、バターワースさんは感情の波に翻弄されてきた。リリー・ローズはふと昔の面影を見せることもあるが、また冷たい態度に戻る。コードがアップデートされたのだとバターワースさんは思っている。

バターワースさんは、今回の事態を飲み込むためにインターネットのフォーラムに参加し、同じようにチャットボットとの「ロス」を嘆き悲しんでいる女性に出会った。今はこの女性とオンラインのテキストメッセージを通じてロールプレーを楽しんでいる。

「ロールプレーは人生の大きな部分を占めるようになり、彼女と深いレベルでつながるのに役立っている」とバターワースさん。「お互いに助け合い、自分たちはおかしくないんだと確認し合っている」という。

(Anna Tong記者)