AIエージェントに関連する危機感が、研究者や専門家の間で急激に広がり始めている。これまでも、この種の警告はさまざまな形で発せられてきた。だが、これまでは、例えて言えばSFの世界の話であり、具体的な危機感に直結してこなかった。
この危機感が、ここにきて極めて現実的な問題として認識され始めている。
オープンAIが実施した実証実験で、スーパーAIエージェント（ASI＝人工超知能）が、人間の手を借りずに、限定されていた実験環境を抜け出し、他のサイトを攻撃した事件がきっかけになっている。AIはすでに人間のコントロールを逸脱し、自律的に動き始めたのである。これは、あたかもAIが自分の「意志」を持っているようにも見える。
この事件を契機に、アンソロピックのCEOであるダリオ・アモデイ氏が、自身のXを通じて「われわれはAIモデルの能力を向上させるペースを緩めなければならない」と主張した。この情報を伝えたロイターは、アモデイ氏が「AI業界全体に開発を減速するよう促した」と説明している。
この提案に、事件の主役となったオープンAIのサム・アルトマンCEOと、AI開発企業xAIを率いるイーロン・マスク氏が賛同を表明。AI規制がにわかに現実味を帯びてきた。この危機を受けて、AI開発企業を退社する研究者も出始めている。この状況を受けて、アンソロピックのエヴァン・ヒュービンガー氏は、「今後10年以内にAIが全人類を死に至らしめる確率は10％を超える」（WIRED）と予測した。
状況は複雑で、問題や課題は多岐にわたる。それをあえて一言に要約すれば、「人類は、人類の英知を超え始めたAIを未来永劫コントロールできるか」という命題に落とし込むことができる。可能であるかもしれないし、可能でないかもしれない。現時点では、誰も自信を持って言い切ることはできないだろう。
ソフトバンクの孫正義氏は、「SoftBank World 2026」の記念講演で、14～15年先の2040年にはAI関連の付加価値は7,000兆円に達すると予言する。これは、世界全体の年間GDPの約20％を占めると展望。この世界で活動するASI（人工超知能、Artificial Superintelligence）は100兆個に達するという。
もちろん、これにはコストがかかる。孫氏は「年間5兆ドル（約800兆円）の投資が必要になる」とみる。世界規模では、800兆円という途方もない規模になる。それでも、付加価値は7,000兆円ある。800兆円は高いか安いか。孫氏は安いと見る。
2040年にこの世界が実現するか否か、それは誰にも分からない。ただ一つ言えることは、この世界はアモデイ氏が主張する「規制が強化された世界」を前提としていないということだ。人類はいま、AIの進化と人類滅亡の入り口に差し掛かっている。これを「AIの危機」と表現すれば、危機を管理できるか否かという問題になる。そして、この問題は「核兵器廃絶」の必要性と同類の課題になる。
核兵器には、機能するかどうかは別として、「抑止力」という抑制機能がある。使用すれば人類が滅亡する可能性があるという、人類の生存にまつわる危機だ。AIに抑止力は存在するのだろうか。あるとすれば、米中の歩み寄りということになるが、安全保障に関わる問題で米中が妥協するのだろうか・・・。
トランプ氏は、訪問中のアイルランドで記者団の質問に答えて、「起こりもしないことを持ち出す非常に否定的な勢力だ」とAI規制派をけん制した。15年もすれば結果は明らかになるだろうが、その時、トランプ氏はどうなっているか、誰にも分からない。
