Anthropic、OpenAI、GoogleがAI安全団体の設立を協議していたと報道

この報道は、週末に登場したAI業界リーダーたちの安全関連声明に詳細を加えるもので、調整が単なるエッセーや公的宣言を超えて進展していることを示している。財務的な観点では、共有されたテストと監査の枠組みへの信頼できる動きは、2つの異なる方法で解釈できる。標準化されたリリース前の安全チェックは、政府の行動より先手を打つことで大手ラボの規制リスクを低減でき、これは過去にセクター全体の評価額を押し上げたパターンである。しかし、複数の観測筋は、ラボが設計した基準団体への準拠コストが最大の既存企業の立場を強化する可能性があると指摘しており、OECDがすでに高い固定費と集中したインフラをAI市場への参入障壁として特定していることを踏まえると、これは小規模プレイヤーとインフラプロバイダー間の競争への影響を監視すべき動きである。

週末の業界で最も目立った安全声明は、3つの主要ラボ間での数か月にわたる静かな協調協議に基づいていることが判明した。

Anthropic、OpenAI、Googleが関与する作業部会の会合は7月から開催され、業界主導のAI安全基準団体の設立について議論してきたと、協議に詳しい情報筋を引用してThe Informationが報じた。この議論は、Anthropicの最高経営責任者ダリオ・アモデイ氏が土曜日にAI企業に対し能力向上の速度を低下させ、安全調整を改善するよう公に要請する前に始まったとされる。

この報道は、週末に行われた公的声明（アモデイ氏のエッセーと、それに対するOpenAIの最高経営責任者サム・アルトマン氏の公的支持を含む）が、新たな取り組みを開始するのではなく、すでに進行中の非公開の調整努力に基づいていたことを示している。Google DeepMindの最高経営責任者デミス・ハサビス氏は以前に基礎を築いており、7月14日に、米国のブローカーディーラーを監督する自主規制機関である金融業界規制機構（FINRA）をモデルにした米国拠点のフロンティアAI基準団体を提案していた。

内部の全体会議で、アルトマン氏はAI業界のためのテストと監査団体の設立を支持すると述べたとされる一方、米政府の支援がなければ、主要なAIラボはそのような団体を自ら開発する必要があると指摘した。3社は、業界の自主規制と政府参加の適切な組み合わせについて、やや異なる見解を持っているようだ。Anthropicは政府機関との協力に傾いており、同社のレッドチームリーダーは7月に規制当局と共同開発した安全基準を公に主張していた。一方、OpenAIは連邦政府の行動とは独立した自主基準を推進することの重要性を強調しつつ、AI監視に関する特定の州レベルの法律も支持している。

協議されている主な提案には、フロンティアモデルを公開前にテストするための共有プロトコル（独立した評価、リリース前の安全レビュー、標準化されたリスク評価を含む）が含まれており、これは協議に関する報道に基づく。各企業はすでにそのような評価のための独自の内部システムを持っており、Anthropicの責任あるスケーリングポリシーとOpenAIの準備フレームワークはどちらも、展開前の壊滅的リスクを評価するための内部手順を概説している一方、Google DeepMindは自社の内部安全手順の詳細については比較的公開が少ない。

これは企業横断的なAI安全協力の最初の試みではない。2023年に6つの主要AI企業によって開始された業界支援の非営利団体であるフロンティアモデルフォーラムは、独立した安全研究に1000万ドル以上を割り当てた関連のAI安全基金を運営している。より最近では、2025年12月に設立されたLinux FoundationのAgentic AI Foundationが、AnthropicのModel Context Protocol、BlockのGoose、OpenAIのAGENTS.mdなどのオープン標準プロジェクトをまとめた。進行中の協議がより正式な基準団体につながるかどうか、そしてそれが最終的にどの程度の権限や政府支援を得るかは依然として不明であり、作業部会の議論がまだ進行中であることを報道は示している。