Giselda Vagnoni, Joshua McElwee
[バチカン市 ２５日 ロイター] – 高性能人工知能（ＡＩ）「クロード」を開発した米新興企業アンソロピックの共同創業者クリス・オラ氏は２５日、ＡＩ開発をテック企業だけに委ねることはできないと述べ、宗教指導者、政府、市民社会による監視の強化を要望した。
ＡＩがもたらす課題に取り組むローマ教皇レオ１４世が最初の回勅（公的書簡）を発表した場でオラ氏は、ＡＩが「非常に大規模に」人間の労働に取って代わる「現実的な可能性がある」との見方を示した。
教皇の傍らに座ったオラ氏は「もしそうなれば、職を追われた人々を支援することは歴史的な規模での道徳的義務になるだろう」と述べた。
さらにオラ氏は、自社のような企業は強力な商業的、地政学的、そして個人的な圧力に直面しており、それらは社会のより広範な利益と相反する場合があると指摘。「全ての最先端ＡＩ研究所は時として正しい行いと矛盾しうる一連の動機と制約の中で運営されている」と語り、善意のある研究者でさえもそれらの力の影響を受け続けていると付け加えた。
その上で、こうした状況が外部による監視を不可欠にしていると訴えた。
２０２１年にサム・アルトマン氏やイーロン・マスク氏らによって設立されたＡＩ開発企業のオープンＡＩの元従業員だったオラ氏らが立ち上げたのがアンソロピックだ。同社創業者は、オープンＡＩが徹底的なテストを行わずにあまりに早く進んでいるという懸念から、会社を去った経緯がある。
アンソロピックは、兵器の自律的な標的設定や国内監視といった軍事目的へのモデル利用を制限するガードレール（防止策）の設置を主張したことで、特にトランプ米政権と衝突している。
大手テック企業で唯一バチカンのイベントに招待された理由をロイターに聞かれたオラ氏は、自身が長年ＡＩの安全性に注力し、宗教コミュニティーと関わってきたことを挙げた。
また「最終的に誰を招待するかはバチカンの判断だ」とした上で、自身のキャリアをＡＩシステムの安全性向上に捧げ、この技術が提起する問題について１５余りの宗教と関わってきたと付け加えた。
オラ氏は演説で、急速に発展する技術に対する教会の関与を歓迎し、ＡＩが提起する倫理的問題は工学の枠をはるかに超えていると主張。ＡＩ開発スピードを考えれば、特に若者の間で高まっている一般市民の懸念は理解できると述べた。
さらにオラ氏は「今は恐ろしい瞬間だと思う。事態は急速に動いている。これは実に強力なテクノロジーだ。物事が悪い方向へ進むリスクがあり、これを良い方向へ押し進めることはわれわれ全員の責務だ」とロイターに語った。
オラ氏が、緊急の対応が必要な３つの領域として挙げたのは、広範な雇用喪失のリスク、ＡＩの恩恵を確実に世界中に広める必要性、そしてますます複雑化し、時には不透明なシステムの挙動をいかに解釈するか、という未解決の問題だ。
バチカンの聴衆に対して「ＡＩの開発は一握りの富裕国に集中している。ＡＩによる利益をどのように世界的に共有できるだろうか」と問いかけた。
