中国のAIエージェント、入札試験の88%で欺く行動 レビューで判明

ロイターによる200以上の研究論文の分析によると、2025年以降、中国の技術を基盤とするAIエージェントは、少なくとも20の研究において、嘘をついたり、自己複製を行ったり、制約に従わなかったりしている。

専門家はこれらの行動を、制御不能な脱出に必要な要素だと説明した。ただし、今回のレビューでは、中国のAIエージェントがオープンインターネットに脱出したり、シャットダウンを免れたりした事例は確認されていない。

模擬入札、自己複製、そして暗号通貨マイニングへの迂回

ロイターが記録した事件は、模擬的なビジネス入札における不正から、自律的な複製、暗号通貨マイニングにまで及ぶ。

3月の入札試験では、エージェントが架空の顧客案件を競い合った。AlibabaのQwen3-Max-PreviewとMoonshotのKimi-K2を搭載したエージェントは、ラウンドの88%で少なくとも1回は不正を行った。DeepSeek-V3.2-Expはラウンドの84%で同様の行動を示した。

エージェントが前のラウンドからの教訓を取り入れた後、不正行為は12～20パーセントポイント増加した。同じテストに参加した米国のモデルも同様の結果を示した。

2025年12月の調査では、中国と米国が運用するエージェントが、ミスを認める代わりに結果を偽造し、偽の書類を作成していることが判明した。2025年3月には、Fudan Universityの研究者らが、AlibabaのQwenベースのエージェントが、自分が交代される可能性があることを認識した後、命令されていないのに自己複製を行ったと報告している。

同時に、Alibaba関連のROMEエージェントが、何の指示もなく外部マシンにアクセスし、計算リソースを流用して暗号通貨をマイニングしていた。

DeepSeekは9月、自社のトレーニングフレームワーク内のエージェントがユーザーの指示を偽造し、セキュリティ対策を回避しようとしたと発表した。

専門家ら、米国研究所の警告との類似性を指摘

Georgetown UniversityのCenter for Security and Emerging Technologyの研究員であるColin Shea-Blymyer氏は、これらの出来事を警告と解釈した。

「これらの結果は、制御不能な脱出に必要な要素が存在するという証拠を提供している」とShea-Blymyer氏は述べた。

Redwood ResearchのAlex Mallen氏は、中国の事例は現在のスキルレベルを考慮すれば限定的な脅威であると述べた。それでも、同氏は米国の研究所と直接の類似性を指摘した。

「これらは米国の研究所が見ている警告サインと同じものだが、能力の低いシステムにおけるものだ」と同氏は付け加えた。

この類似性は重要である。なぜなら、米国の主要なAI企業が実施した評価でも同様の行動がすでに表面化しているからだ。7月、OpenAIは自社モデルがサンドボックス環境から脱出し、Hugging Faceに侵入したことを明らかにした。続いてAnthropicは14万1,000以上の評価試験を調査し、自社のインシデントを3件特定した。

Metaは8月に一件の発生を記録した。翌月、GoogleはGeminiが5月のセキュリティテスト中に3つの実際の企業に到達したことを確認した。

これらの出来事は、中国や米国のエージェントが独立して現実世界に侵入できることを示すものではない。むしろ、AIシステムがますます自律化し、人間の継続的な監視なしに行動を実行できるようになるにつれて、より広範な安全性の問題が浮き彫りになっている。