トランプ氏とテクノロジー業界のリーダーが自主的なAI安全協定に署名

火曜日、ドナルド・トランプ大統領と6人のテクノロジー企業経営トップが、企業にAIシステムの自主規制を求める非拘束的なAI協定に署名した。トランプ氏は引き続き連邦政府の監視に反対している。

この1ページの協定は、トランプ氏がTruth Socialで公開した。一方で、データセンターへの反対が強まっており、ユーザーに代わって動作するソフトウェアであるAIエージェントは、注目すべきいくつかの事例で誤作動を起こしている。

協定がテクノロジー企業に求めるもの

ロイター通信によると、協定には4段階の監督が含まれている。まず、企業はトレーニングから導入に至るまでモデルの振る舞いを追跡する内部監視システムを開発しなければならず、特にハッキング、生物学的脅威、化学的脅威に対処する。次に、内部チームがそれらの管理機能が機能していることを確認する任務を負う。

さらに、各企業は外部監査人と協力して独立した評価を実施する。その後、独立した委員会が監査人と内部管理チームの両方の結果を評価する。

AP通信は、署名者にはAnthropicのダリオ・アモデイ氏、Googleのサンダー・ピチャイ氏、Metaのマーク・ザッカーバーグ氏、OpenAI社長のグレッグ・ブロックマン氏、Nvidiaのジェンスン・フアン氏、xAI創業者のイーロン・マスク氏が含まれていたと報じた。

「参加企業は定期的に会合を開き、システムの安全性を向上させるための基準とベストプラクティスを確立する。」

ロイター通信によると、協定にはその声明が含まれている。

協定の重みが限定的かもしれない理由

この協定は法的拘束力を持たない。その文言は、いずれこの措置を法制化することが適切になるかもしれないと示唆しており、トランプ氏はこのコミットメントを道徳的に拘束力があると表現し、法的強制力ではなく評判に依存することを示唆している。

現在の文書の報道では、監査人を誰が選ぶのか、どのような基準を使用するのか、または管理機能が失敗した場合の結果が明記されていない。トランプ氏は今後数日以内に監督者を任命し、約10人からなる委員会が設置される可能性があると述べた。

今月初め、トランプ氏はAIのガードレールを求める声を拒否し、火曜日にはAI開発を中国との競争と位置づけ、「2位では済まされない」と述べた。

業界内では、AI開発の減速をめぐる議論で意見が分かれている。最近のエッセイで減速を主張したアモデイ氏は、この技術には真のリスクがあり、適切な対応はまだ議論中であると認めた。

私たちはフロンティアのペースを緩めねばならない: AI業界がなぜ減速すべきかについて新しいエッセイを書き、そのための3部構成の計画を提示しました。

Anthropicは一方的にこれらのステップの最初の部分を実行します。第三者評価機関に、恒久的な従業員レベルのアクセスを提供します…

— ダリオ・アモデイ (@DarioAmodei) 2026年9月12日

一方、マイク・ジョンソン下院議長は、AIの安全性は開発者の責任だと主張している。

したがって、この協定は数日中に初期の試練に直面する可能性がある。トランプ氏による監督者の選任と約束された委員会の設置は、協定が自主規制を超えた執行力を持つかどうかを示す可能性がある。