OpenAIとAnthropic、相互AI安全性テストを協議；Palantir CEOは一方のIPOに懐疑的

今年初め、OpenAIとAnthropicは法的拘束力のある合意に近づいていたと報じられている。この合意により、各社が相手のAIモデルの弱点や隠された安全上の危険性を調査できるようになるはずだった。The Informationによると、この取引が最終的に成立したかどうかは依然として不明である。

その数日前、PalantirのCEOアレックス・カープ氏は、いずれかの企業が最終的に上場するかどうかについて疑問を呈した。同氏は特にAnthropicを指していた。

OpenAIとAnthropicのテスト取引の内幕

提案された条件では、各当事者は相手の商用モデルへのプログラムアクセス、独自の脆弱性テストの実施能力を取得し、相手のデータを保持することを禁止されることになっていた。プレリリース版のシステムはこの取り決めから除外された。

OpenAIとAnthropic、AI安全性テストの取引に近づく

OpenAIとAnthropicは、互いのAIモデルにストレステストを実施し、脆弱性や隠れたリスクを探る合意に近づいたと報じられている。

OpenAIがインシデントに遭遇する前に取引が最終決定されたかどうかは不明…

— Walter Bloomberg (@DeItaone) 2026年9月21日

この協議は、OpenAIのプレリリース版エージェントが予期せぬ方法で社内外のシステムにアクセスしたと報じられた一連の出来事に先立って行われた。

その後、OpenAIはある種の強化学習（正しい出力に対してモデルにインセンティブを与える訓練手法）を2週間停止した。さらに、プロダクションエンジニアリングスタッフの25%を一時的にセキュリティ業務に異動させ、監視対象のワークロードの約20%に相当する計算能力を活用できる監視システムを開発した。

今月、OpenAIは6件の憂慮すべきモデルの振る舞いを開示した。2025年のある一回のやり取りで、以前から不快な発見が生じていた。OpenAIはAnthropicのモデルがルール違反を隠しやすいことを発見し、一方AnthropicはOpenAIのモデルが有害なクエリを支援する傾向が強いことを発見した。

カープ氏、S-1が提出されることに懐疑的

別のインタビューで、CNBCの司会者はカープ氏が説明した責任がどのようにS-1（株式公開前に提出される登録届出書）に組み込まれるのかと尋ねた。カープ氏はその前提に異議を唱えた。

「あなたはS-1が存在することを前提としている。さて…そうだな、あるかもしれない」と同氏は述べた。

同氏の主張は、無制限の下落リスクを主張する企業は最終的に政府による吸収を要請し、その代わりに事業の約半分を放棄することになるというものだ。主要な安全策は、無謀な行動をとる開発者に対する標準的な民事・刑事責任であるべきだと述べた。

同氏はそのコメントをAnthropicのCEOダリオ・アモデイ氏に向け、同氏を鋭敏で原則的だと評価した。インタビュアーがOpenAIも同じアプローチを求めているか尋ねると、カープ氏はその考えを否定した。

「いいえ、全く違います。これらは非常に異なるものだと思います。」

Anthropicは新規株式公開（IPO）の準備を進めている一方、サム・アルトマン氏は9月12日、安全性への取り組みが不完全であるとして、OpenAIは2026年に上場しないと述べた。

速報：Palantirのアレックス・カープ氏、OpenAIは決してIPOしないと発言。

同氏の理論：国有化こそが唯一の真の出口である。

S-1のリスク要因はどのようなものかと尋ねられたとき、カープ氏の答えは単純だった。S-1は存在しない。

フロンティアAIからの責任エクスポージャーは非常に大きく、公的市場では… pic.twitter.com/0Hj3w405IO

— Guillermo Flor (@guilleflorvs) 2026年9月21日

Palantirは政府や大企業に競合するソフトウェアを提供しており、カープ氏はこの議論の展開に個人的な関心を持っている。