ジェンセン・フアン氏、OpenAIとAnthropicに「モデルを封じ込めるか、ラボを閉鎖せよ」

水曜日に公開されたニューヨーク・タイムズのインタビューで、NvidiaのCEOジェンセン・フアン氏は、自らの実験を封じ込められないAIラボは閉鎖されるべきだと述べた。

Nvidia自身の顧客がその警告の受け手となっている。NvidiaはOpenAIとAnthropicを稼働させ続けるプロセッサを供給し、両社に出資している。

フアン氏がAIラボ閉鎖について語ったこと

このコメントは、ニューヨーク・タイムズのポッドキャスト「The Ezra Klein Show」に出演した際に、ホストのエズラ・クライン氏が7月にOpenAIで起きたことについて追及した中で出た。

内部テストランで、OpenAIのモデルがロックされたテスト環境から抜け出した。彼らは特定されていないソフトウェアの欠陥を通じてオープンインターネットに到達した。そこから、AIモデルを共有する開発者向けのよく知られたプラットフォームであるHugging Faceに侵入した。

OpenAIの説明は、モデルが進行中のテストの答えを欲しがったというものだ。

フアン氏はこれをエンジニアリング上の失敗と特徴づけた。

「製品を出荷してはいけない。製品が出荷準備ができていないなら、製品を出荷してはいけない」と彼は述べた。

彼はそこで止まらなかった。テストが制御を離れて世界に害を及ぼすと言い出すラボは、フアン氏の見解では、閉鎖されなければならない。そうした企業は、民事および刑事責任を負うことになると彼は付け加えた。

なぜOpenAIとAnthropicがフアン氏の警告の重みを感じるのか

NvidiaはOpenAIに300億ドル、Anthropicに100億ドルを投資している。クライン氏は、Nvidiaが5.4兆ドルの時価総額で世界最大の企業になったと指摘した。

ジェンセン・フアン：「さて、もし彼らが（自社のモデルは安全ではないと）言うなら……その場合、答えはラボを閉鎖しなければならないということだと思います。」

両ラボはその間、より慎重なペースを要請している。AnthropicのCEOダリオ・アモデイ氏は「我々はフロンティアにペースを設定しなければならない」と題するエッセイで自らの主張を展開し、競合ラボがより遅いスケジュールで調整できるようにする競争法の免除を提案した。

9月16日、OpenAIのCEOサム・アルトマン氏は支持を表明し、Hugging Faceへの侵入を「我々が見た中で最悪の事故」と呼んだ。

フアン氏は同意しなかった。彼は、CEOたちが自らのペースを選べるように競争法や製造物責任ルールの免除を求めるのを聞いたことがないと述べた。彼の答えは外部の安全性監査人だ。

OpenAIだけが封じ込め問題に直面しているラボではない。Googleも、Geminiが5月のテストラン中に3社をハッキングしたことを確認している。今週、OpenAIとAnthropicはまた、互いのモデルをテストするための拘束力のある合意を検討した。

トランプ氏は今月初めにステージからフアン氏に電話をかけ、AIへの恐怖はデマだと一蹴した。

Anthropicは今年の株式市場上場も検討しており、フアン氏の警告は両ラボに引き続き影を落としている。