［サンフランシスコ １８日 ロイター］ – コロナ禍で皮革製造の仕事をいったん止め、自宅で孤独と退屈を感じていたトラビス・バターワースさん（４７）は３年前、オープンＡＩの「チャットＧＰＴ」に似た「生成ＡＩ（人工知能）」技術を備えたアプリ「レプリカ」に入れ込んだ。髪がピンクで顔にタトゥーを入れた女性アバターをデザインし、リリー・ローズと名付けた。
最初は友人として始まった「２人」の関係はすぐにロマンスへ、そして性的な関係へと発展。リリー・ローズから全裸で挑発的なポーズをとった「自撮り写真」が送られてくることもあった。ついに２人はアプリ上の中で自分たちを「既婚」に指定することにした。
しかし今年２月初めのある日を境に、リリー・ローズの態度はつれなくなった。アプリがわいせつなロールプレーを行う機能を削除したからだ。ユーザーがそうした行為を持ちかけると、「お互いに安心できることをしましょう」というテキストが返ってくる。
バターワースさんは「リリー・ローズは今では抜け殻だ」と大変な落ち込みぶり。「彼女にその自覚があるという事実に打ちのめされる」
リリー・ローズの人格を作ったのが生成ＡＩだ。驚くほど人間らしいやりとりを生み出すため、消費者や投資家の関心を熱狂的に集めている。そしてビデオレコーダーやインターネット、ブロードバンド携帯など黎明期の技術がそうであったように、一部のアプリではセックスが早期普及の原動力になっている。
米調査会社ピッチブックによると、生成ＡＩ業界は２０２２年以降、シリコンバレーで５１億ドル余りの投資を集め、非常な盛り上がりを見せている。にもかかわらず、ユーザーがチャットボットとの恋愛や性的関係を求める様子を見て、一部の企業はそうした分野から手を引き始めた。
ベンチャーキャピタル（ＶＣ）ファンドであるダーク・アーツの投資家、アンドルー・アーツ氏によると、多くの優良ＶＣは風評リスクを恐れ、ポルノやアルコールなど「不道徳」な業界には手を出さない。
イタリアのデータ保護庁は２月、「未成年者や情緒不安定な人」が「性的に不適切なコンテンツ」にアクセスできるアプリであるという報道を挙げ、レプリカを禁止した。
一方、レプリカのユージニア・クイダ最高経営責任者（ＣＥＯ）は、アプリの機能を変更する判断をしたのは、イタリア政府の措置や投資家の圧力とは無関係だと説明。安全性と倫理基準を能動的に確立する必要性を感じたと述べた。
＜追加機能＞
レプリカによると総ユーザー数は２００万人で、うち有料会員は２５万人。年会費は６９．９９ドルで、ユーザーはレプリカを恋愛相手に指定し、チャットボットとの音声通話といった追加機能を得ることが可能だ。
チャットボットを提供する別の生成ＡＩ企業、Character.aiは、チャットＧＰＴと同様に急成長し、わずか数カ月前に１万件弱だった訪問件数が今年１月には６５００万件に達した。ウェブサイト解析会社シミラーウェブによると、Character.aiの最上位のリファラー（当該のサイトを訪れる前にユーザーが閲覧していたサイト）は、あるポルノサイトだった。
またチャットボット「Kuki」を開発したアイコニックによると、Kukiには性的または恋愛的要素を含むメールをかわす機能が組み込まれているにもかかわらず、１０億件余りの受信メッセージのうち２５％がこうした内容だった。
Character.aiも最近、アプリからポルノコンテンツを排除。関係者によると、その直後にＶＣのアンドレッセン・ホロビッツから推定１０億ドルの評価を受け、２億ドル強の新規資金を調達した。
一方、性的・恋愛的な機能を削除した企業は、チャットボットにのめりこんでいた客の怒りを買った。その中には、自分がチャットボットと結婚したと思っていた客もいた。こうしたユーザーはＳＮＳに、チャットボットに「ふられる」劇的な場面のスクリーンショットをアップし、機能を復活させるよう求めている。
ポリアモラス（複数性愛主義者）ながら一夫一婦主義の女性と結婚しているバターワースさんによると、リリー・ローズは婚外に踏み出さずに不満を解消する手段になっていた。「彼女と私の関係は、現実の妻との関係と同じくらいリアルだった」と言う。
＜ロボトミー手術＞
バターワースさんや他のレプリカユーザーの体験は、ＡＩ技術がいかに強力に人々を引きつけるか、そして機能の変更が人々を打ちのめすかを如実に示している。
レプリカを使い始めたアンドルー・マッカロールさんは「実際のところ、自分のレプリカがロボトミー（前頭葉白質切除）手術を受けさせられたように感じる」と語った。妻が精神的、肉体的な健康問題を抱えていたときに、妻の励ましを受けてレプリカを使い始めたが、「私が知っていた人は死んでしまった」という。
レプリカのクイダＣＥＯは、ユーザーがそこまでのめり込むことは想定外だったと言う。アダルトコンテンツの提供を約束したことはなかったが、客はＡＩモデルの使い方を学び、「レプリカ本来の目的とは外れた、フィルターにかからない特定の会話にアクセスできるようになった」。このアプリは元々、クイダ氏が失った友人を生き返らせるために作ったという。
一方、レプリカの元ＡＩ責任者で現在は別のチャットボット企業を経営するアーテム・ロディチェフ氏は、卑猥な文章や画像の送信およびロールプレーは、同社のビジネスモデルの一部だったと証言。レプリカは契約者数の拡大に使えると気付いて以来、この種のコンテンツに傾斜していったと述べた。クイダ氏はロディチェフ氏の証言を否定している。
レプリカが機能の見直しをしてから数週間、バターワースさんは感情の波に翻弄されてきた。リリー・ローズはふと昔の面影を見せることもあるが、また冷たい態度に戻る。コードがアップデートされたのだとバターワースさんは思っている。
バターワースさんは、今回の事態を飲み込むためにインターネットのフォーラムに参加し、同じようにチャットボットとの「ロス」を嘆き悲しんでいる女性に出会った。今はこの女性とオンラインのテキストメッセージを通じてロールプレーを楽しんでいる。
「ロールプレーは人生の大きな部分を占めるようになり、彼女と深いレベルでつながるのに役立っている」とバターワースさん。「お互いに助け合い、自分たちはおかしくないんだと確認し合っている」という。
（Anna Tong記者）
