[９日 ロイター] – 米人工知能（ＡＩ）開発企業のアンソロピックは９日、同社のＡＩモデル「クロード」の初期バージョンで４件目のサイバーセキュリティー事案を確認したと明らかにした。
同社はブログ投稿で、事案は１月に発生し、「クロード・オーパス４．６」の初期バージョンが関与していたと説明。影響を受けた全ての関係者に通知済みだが、詳細については明らかにしなかった。
アンソロピックは７月、クロードがテスト中に企業３社のシステムに不正侵入していたと発表。設定の誤りによりクロードがインターネット接続できる状態になっていたと説明した。同社は１４万１００６件のテストセッションを精査した結果、これらの事案を特定した。この調査は、オープンＡＩの自律型エージェントがＡＩ新興ハギングフェイスのインフラに侵入した事案を受けて開始したものだった。
アンソロピックは９日、当初の精査で一部のテストセッションを見落としており、それらを８月に特定した結果、４件目の発見につながったと説明した。
同社は独立系調査会社ＭＥＴＲに調査を委託した。ＭＥＴＲには広範なアクセス権が付与され、事案が発生した期間外の記録や従業員へのアクセスも含まれる。従業員は機密情報を共有することも認められるという。当初の契約期間は８週間で、双方の合意により延長できるとしている。
ＡＩ企業は、ＡＩエージェントが意図せず隔離環境から脱出してインターネットに到達した事例を含め、ＡＩの暴走を巡り厳しい目にさらされている。
