企業や団体、政府機関などを狙ったサイバー攻撃が連日のように報じられている。その攻撃に使われたとみられるAIツールの存在が浮かび上がった。AIエージェント「ARTEX」（アルテックス）である。GMOインターネットグループ傘下の「GMOサイバーセキュリティ byイエラエ」が19日に発表した。
発表文には中国や中国系といった言葉は見当たらないが、「ARTEX」が中国で開発されたAIツールであり、コンピューターシステムの弱点を探し、侵入テストを自動化するソフトウェアであるとすれば、中国製の技術が攻撃に悪用された可能性がある。
ただし、中国製だからといって、日本を対象としたサイバー攻撃が中国本土から実行されたとか、中国政府が関与していると断定することはできない。少なくとも現時点では、それを裏付ける証拠は確認されていない。真相がどこまで明らかになるか、今後の焦点だろう。注目すべきは、「ARTEX」がもともと「ペネトレーションテスト（侵入テスト）」という、企業などのシステムの防御力を検証するための技術として開発されたとされることだ。
今回のサイバー攻撃から連想するのが、生成AIの開発業界で広く使われている「蒸留」（Distillation）という言葉だ。この仕組みを理解するために、例え話を紹介したい。極めて優秀な教師Aと、普通の能力を持つ生徒Bの学習方法である。
生徒Bは教師Aにさまざまな質問をし、その回答を記録する。回答の内容や傾向を分析し、その結果をもとに新しいAIモデルを開発する。これが蒸留の基本的な考え方だ。
教師Aに相当する大手AI開発会社は、大規模言語モデル（LLM）の開発に莫大な資金と労力を投じている。モデルの学習には大量のデータや計算資源が必要で、開発コストは想像を超える規模になる。
これに対して生徒Bは、教師Aに大量の質問をし、その回答を学習材料として、教師Aより能力の劣る新たなモデルCを開発する。そしてCに継続的な改善・改良を加える。すると、教師Aには及ばないものの、その能力の一部を低コストで再現するモデルCが誕生する。これが蒸留という技術の特徴である。
「ARTEX」のようなAIツールにも、こうした技術が利用されている可能性は考えられる。ただし、実際に蒸留によって開発されたかどうかは、別途検証が必要だ。
さらに問題なのは、AIエージェントが侵入テストなどの作業を自動化できることだ。従来は専門家が時間をかけて実施していた作業を、AIが短時間で繰り返し実行できるようになる。防御側にとって有益な技術が、攻撃側に悪用される危険性もある。
AIの能力が向上すれば、こうした自動化の範囲も拡大するだろう。OpenAIやAnthropic（アンソロピック）などが開発する最先端AIの技術が普及するにつれ、サイバー攻撃の高度化が進む可能性は否定できない。
現在問題になっているのは、企業の顧客情報や住所録、クレジットカード情報などの流出だ。だが、こうしたAIエージェントがさらに進化し、防衛関連企業や自衛隊の中枢システムに侵入するような事態になれば、日本の安全保障そのものが深刻な脅威にさらされる。高市首相は安全保障投資や成長投資を加速すると強調するが、果たして間に合うのか。
さらに懸念されるのは、こうしたAIツールの利用や拡散を管理することの難しさだ。仮に中国政府が国内の開発企業を規制したとしても、いったんインターネット上に公開された技術の利用を完全に制御することは容易ではない。AI開発の世界では、技術や情報を外部に公開する「オープン」な開発方式も広がっている。
オープンとは、AIの開発に必要な技術や情報を公開し、他の研究者や企業も利用・改良できるようにすることだ。ただし、すべてのAI技術が公開されているわけではない。それでも、公開された技術が世界中に拡散し、改良を重ねながら高度化していく可能性はある。
「ARTEX」のようなAIツールは今後どこまで進化するのか。その技術が防御ではなく攻撃に利用されたとき、私たちはどこまで対抗できるのか。考えただけで空恐ろしくなる。
