[１２日 ロイター] – 米人工知能（ＡＩ）開発企業アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は１２日、Ｘに掲載した文書で「われわれはＡＩモデルの能力を向上させるペースを緩めなければならない」と主張し、ＡＩ業界全体に開発を減速するよう促した。
ＡＩが自律的に能力を向上させることで人間の制御が難しくなるとの懸念がかねてからあることや、同業オープンＡＩの自律型エージェントがＡＩ新興ハギングフェイスに不正侵入した事案に言及。「ＡＩ能力の開発ペースが加速していることを踏まえると、６─１２カ月以内にＡＩの集団がインターネット全体を乗っ取り、数千億ドルの損害をもたらす可能性がある」と警告した。
ＡＩ開発企業ｘＡＩを率いるイーロン・マスク氏とオープンＡＩのサム・アルトマンＣＥＯはともに、Ｘへの投稿でアモデイ氏の見解に同意すると述べた。
アモデイ氏は、各企業が安全対策の検証のために従業員と同等のアクセス権を持つ独立した評価者を組織内に配置し、最先端ＡＩ企業間で連携して安全基準を設定するとともに無秩序なＡＩ開発を制限するほか、ＡＩ関連リスクを管理するための国際協力を行うという３段階のアプローチを提案した。
アルトマン氏は従業員と同等のアクセス権を持つ独立した評価者の配置について「われわれも同様の措置を講じる」と述べ、詳細を近く明らかにする考えを示した。
アモデイ氏はさらに、米国の主要ＡＩ企業は協調することで、競争上の不利益を被ることなく安全対策を講じられると説明。特定の分野での協力を可能にするため、米国において独占禁止法の対象を絞った適用除外措置が必要になる可能性が高いとの見解を示した。
同時に、民主主義国家における開発減速は、米国のＡＩ企業が中国をはじめとする権威主義的な体制に対して有する優位性を維持する程度に限定されるべきだとも述べた。ＡＩ分野で中国が優位性を有することになれば米国の国家安全保障上のリスクとなると主張した。
