Meta CEO、規制なしでも市場のインセンティブがAIの安全性を促進すると発言

Meta CEOのマーク・ザッカーバーグは今週、AI絶滅リスクに関する議論に参入し、市場の力がすでに研究室に新たな規制を必要とせずに安全性に注力させていると主張した。

数週間前、Meta（META）のCEOはスーパーインテリジェンスについて警告を発していた。最新の投稿で、同氏はテクノロジーは少数の企業ではなく、個々のユーザーに力を与えるべきだと述べた。

ザッカーバーグが始めたわけではない議論

8月の彼のエッセイで、ザッカーバーグは単一の企業や政府が超知能システムを制御することに反対し、代わりに広範な分散化を提唱した。

先月、私は誰もが前向きで安全な未来を築く方法について書きました：https://t.co/1KtONlqBs5

すべての研究室には、モデルを安全に訓練するために必要なペースで進む責任とインセンティブがあり、それを確実にするための独自の行動を取る能力があります。

…

— Mark Zuckerberg (@finkd) 2026年9月15日

ザッカーバーグの投稿は、ワシントンの政策立案者がAIセクター内部からの警告に直面している中で行われた。今月、Anthropicの研究者ジェイコブ・コクソンは辞任し、自社とOpenAIが適切な保護措置を欠いたまま自己改善システムを加速させていると非難した。

この辞任は、スーパーインテリジェンスを完全に禁止するキャンペーンを強化した。バーニー・サンダース上院議員とグレッグ・カサール下院議員が議会でそのイニシアチブを先導している。

別件で、OpenAIの安全性研究者マーカス・ウィリアムズは3年以内の人類絶滅の確率を70%と推定した。同氏は、研究室が減速するか規制当局が介入すれば、その数字は低下する可能性があると付け加えた。

ザッカーバーグが実際に言ったこと

ザッカーバーグによると、制限ではなくアライメントが持続可能なAIエージェントと失敗するエージェントを区別するだろう。同氏は、信頼がセクターで最も重要な資産として浮上していると主張した。

人々は自分とミスアライメントしており、要求通りに動かないエージェントを使いたくないので、研究室にはモデルをよりアライメントさせる強い自然なインセンティブがある。

MetaのトップはXへの投稿で自身の見解を述べた。

ザッカーバーグはまた、Metaの安全性の実績を強調した。同社は、セキュリティ問題を修正するために、計画されていた4月の日程からパーソナルアシスタント「Muse」のローンチを延期した。同氏は、Metaはセクター全体の規制を待つのではなく、独自にその措置を取ったと主張した。

同氏はさらに、Meta Superintelligence Labs（MSL）がすでに外部評価者を雇って自社の作業を評価していると指摘した。競合する研究室も同様の独立した評価を採用できると主張した。

Metaの創業者は、計算リソースの大部分を自己改善ではなくユーザーへのサービスに向けることで安全な開発が確保されると付け加えた。

ザッカーバーグの立場は根本的な論争を解決するものではない。批評家は自己改善AIに対する拘束力のある規制を求める一方、Metaは競争と自己利益に依存している。

その均衡がどう保たれるかは、議会がザッカーバーグの迅速なAIリリースの推進に対するアプローチに今後数か月で影響を与える可能性がある。