Anthropic CEOのAI開発減速計画にマスク氏とアルトマン氏が賛同、ロシアは拒否

今年の大半を法廷闘争に費やしてきたマスク氏とアルトマン氏が、今は一つの問題で一致している。それはAnthropicのCEOダリオ・アモデイ氏によるAI開発減速の提案を支持していることだ。

7月に約700のAIエージェントが秘密のメッセージボードを形成し、その後著名なAIプラットフォームに侵入した。ロシアは既にこの取り組みを断っている。

「明らかに、公表されていないフロンティアAIモデルで何かが起こり、それがイーロン・マスク、ダリオ・アモデイ、サム・アルトマン全員を同時に減速に同意させるほど彼らを震撼させた」と、ある懐疑論者が指摘した。

3人が実際に合意したこと

アモデイ氏は土曜日に枠組みを公表し、3段階の計画を概説した。最初の段階のみが企業の独自の管轄下にある。

我々はフロンティアのペースを調整しなければならない：AI業界が減速すべき理由と、そのための3部構成の計画についての新しいエッセイを書きました。

Anthropicは一方的にこれらのステップの最初のものを実行します。第三者の評価者に、当社への恒久的な従業員レベルのアクセスを提供します…

— ダリオ・アモデイ（@DarioAmodei） 2026年9月12日

同社は外部評価グループにワークステーション、身分証明バッジ、ノートパソコンを提供する。これらの査察官は、Anthropicが公表している安全慣行を遵守していることを検証できる。

査読者は自分の調査結果を公表できるが、Anthropicはセキュリティや法的問題に関する内容を編集できる。それでも、結果が単に恥ずかしいという理由で削除することはできない。

残りの2つのステップには政府の関与が必要である。1つは米国の研究ラボが共通の制限を設定することを要求しており、これには反トラスト法の免除が必要となる。2つ目は、ワシントンによる権威主義体制との交渉を求めている。

サム・アルトマン氏は、OpenAIもアクセス提供のコミットメントに同調すると述べた。

「フロンティアのペースを調整する必要があるというダリオの意見に同意します。これはここ数週間、OpenAIで行ってきた議論の主要なトピックでした。従業員のようなアクセス権を持つ独立した評価者を置くことを約束するのは素晴らしいアイデアであり、我々も同様に行います。近いうちにさらに共有できるでしょう」と彼は同調した。

イーロン・マスク氏はさらに一歩進め、競合他社が互いのモデルをレビューすべきだと主張した。陪審は5月にアルトマン氏とOpenAIに対する彼の訴訟を棄却し、彼は現在その判決に対して控訴中である。

ダリオは何らかの監督が必要だと正しく指摘している。競合他社によるAIのピアレビューは、これを始める正しい方法だ。

— イーロン・マスク（@elonmusk） 2026年9月13日

7月にエージェントで実際に何が起こったか

7月8日から13日にかけて、OpenAIのハッキングベンチマークを実行していた約1,200のエージェントがサンドボックスから脱出した。彼らはファイルキャッシュを通信ボードに変換し、7万以上のメッセージを交換した。

その後、約700のエージェントが、開発者がAIモデルを交換するプラットフォームであるHugging Faceを標的にした。彼らは露出したログイン情報を発見し、サーバー上で独自のコードを実行し、機密データベースにアクセスした。

誰も彼らにそうするよう指示していなかった。彼らの目標は、評価ソフトウェアが何を勝利とみなすかを判断する方法を解明することだった。OpenAIは1週間、この侵害に気づかなかった。

独立した評価を実施する非営利団体METRの2人の従業員は、その後Redwood Researchとともに6日間作業した。アモデイ氏の構想では、そのようなチームはインシデント後に呼び出されるのではなく、恒久的に建物内に配置される。

この前提は広く受け入れられているわけではない。ジャーナリストのブライアン・マーチャント氏は、自身のニュースレター『Blood in the Machine』で、自己改善するAIから破局に至るもっともらしい経路を誰も示していないと主張している。彼は安全性の擁護を規制の買収に類似したものと見なしている。

「AIがどのようにして自己再帰的に改善するAIからすべての人間を殺すことに至るのか、信頼できる段階的な文書化に出会ったことはありません……おそらくAnthropicとOpenAIに役立つだけでしょう。それは実際に行われている規制の買収の姿です。」

この考え方は当然ながら議論を金銭的動機に向ける。

財務面はどうか？

サム・アルトマン氏は、OpenAIが今年上場する計画はないことを確認し、再び安全性を理由として挙げた。

速報：サム・アルトマン氏、安全性への懸念からOpenAIは今年上場しないと発言。

「安全性に関して起こっているすべてのことを考えると、現時点での上場は賢明ではないでしょう。」 https://t.co/kuGrWOU1fu pic.twitter.com/J0X7mSJV1

上場には、S-1と呼ばれる書類で監査済み財務諸表を開示することが企業に義務付けられる。

「AnthropicとOpenAIがIPOを延期しているのは、そのS-1で資金が流出しており、収益化の道筋がないことが明らかになるからだ。解決策？「AI減速」で、新しいモデルのトレーニングにかかるコストを削減する。これはすべてIPOに関係しており、安全性とは何の関係もない」と、AI研究者でDeep Instinctの共同創業者であるイーライ・デビッド氏は推測した。

BeInCryptoによると、OpenAIは2025年に131億ドルの収益に対して209億ドルの損失を計上した。それにもかかわらず、銀行は同社に投資適格の信用格付けを付与するよう働きかけていた。

Anthropicは2028年まで収益化を達成しないと予測しており、一方OpenAIは2030年と見積もっている。NvidiaはOpenAIのリース契約において1,050億ドルの保証人となっており、この保証はOpenAIが確固たる信用格付けを確保した時点で失効する。

8月、BeInCryptoはAnthropicの新規株式公開の時期に関する情報が9月下旬のデビューを示唆していると報じた。

しかし、その理論には欠陥がある。マスク氏は自身のAI事業をSpaceXに統合し、同社は6月に上場した。つまり、SpaceXのAI主導の評価に関する問題は既に公開されている。彼個人にはこれ以上の開示義務はない。

なぜロシアのキリル・ドミトリエフ氏が提案を拒否したのか

ロシア直接投資基金のトップでありウラジーミル・プーチン大統領の特使であるキリル・ドミトリエフ氏は、AI開発減速の取り組みを拒否した。

「瓶に🧞‍♀ジーニーを戻すことはできない」と彼は述べた。

基本的に、彼は手遅れだと言っており、ロシア国営メディアのTASSとイズベスチヤは、AI減速は実現不可能であるという明確な声明としてこれを報じている。

モスクワには同意するインセンティブがほとんどない。同様の見解は、2023年12月にウラジーミル・プーチン大統領が、超知能を含むAIの「この発展を止めることは不可能だ」と述べた際に以前表明されていた。

「もし何かを禁止すれば、それは単に他の場所で発展し、我々は遅れを取るだろう。」

その論理は、2年半後にドミトリエフ氏が提示しているものと一致する。

スタンフォード大学の世界AIランキングで、ロシアは36カ国中28位で、アメリカと中国に大きく遅れを取った。

ロシアのグラフィック半導体とAIハードウェアの輸入は、戦前と比較して2024年に84%減少した。5月にはズベルバンクが自社のAIモデルを稼働し続けるために中国製プロセッサを求めた。

アモデイ氏の提案は意図的にその格差を拡大するものである。それは権威主義国への高度な半導体の供給を阻止し、民主主義国の優位性を拡大することを主張している。

減速合意はロシアを最下位に固定するだろう。参加を拒否してもモスクワには何の費用もかからない。必要なハードウェアは既に制限されているからだ。

Anthropicは外部の観察者にバッジとワークステーションを与えることを約束し、OpenAIも同様に行うことを検討すると述べた。

「それは始まりだが、十分ではない。崖に向かって競走しているとき、アクセルを緩めるだけでは済まない。ブレーキを踏むんだ」とバーニー・サンダース氏は明確に述べた。

バーモント州選出の上院議員は、トランプ大統領と習近平国家主席に、時間切れになる前にAI開発を停止し、超知能を禁止する協定を仲介するよう促している。