Anthropic退職後、AI研究者がこの10年での人類絶滅を警告

英国のAI研究者ジェイコブ・コクソン氏はAnthropicを辞職し、人工知能が2030年が終わる前に人類を絶滅させ得ると述べた。

なぜ彼の警告は信頼に値すると見なされるのか。彼の経歴はまさにAI内部関係者のものだ。Anthropic以前にはOpenAIに在籍し、ChatGPT 4.5の開発に貢献した。

つまり彼は、パニックを広めるというよりも、本心からの懸念から話しているように見える。彼の警戒を呼ぶ発言のいくつかについて、その事実的根拠を検証してみよう。

本日、私はAnthropicを辞職しました。この3年間、OpenAIとAnthropicの両方で事前学習の研究に携わってきました。どちらの企業も責任ある行動を取っていません。彼らは自己改善型の超知能へまっしぐらに突き進み、私たちの命を賭けています。詳細な考えは以下に。

— ジェイコブ・コクソン（@hilbertspaess） 2026年9月9日

AIは人類の命を終わらせ得る――いかなる方法で？

コクソン氏は、ClaudeやGPTのようなAIが物理的にターミネーターのような殺人者になることを示唆しているのではない。むしろ彼が言及しているのは、超知能が人間の認知能力を不要にするということだろう。

こうした懸念は、ビル・ゲイツを含む著名人たちによっても繰り返されている。

OpenAIのChatGPT 6 Astraモデルは、人間のように推論できる機械であるAGIを達成したと主張されている。

したがって、AIは現在、別のAIモデルを自律的に開発するための研究を行い、プロセスを作り出すことができる。OpenAIとAnthropicの両社によれば、これはすでに限定的な規模で起きている。

そのシナリオでは、AIはまもなく自身の能力を高めるために人間の介入を必要としなくなるかもしれない。それによってどれだけの職業が失われるだろうか。

そして、もし一世代全体が創造的・批判的思考をAIに外部委託することに慣れてしまえば、独創性が最初の犠牲になるだろう。それが、コクソン氏が広く共有された投稿で言及した絶滅かもしれない。

AGIへようこそ。ChatGPT 6 Astraがちょうどリリースされた

発表の中で、グレッグ・ブロックマンはこれがAGIの時代だと主張しており、Astraはそこでの最初のモデルかもしれない

知っておくべきすべてはここにある：

1. 現在、企業向けに展開が始まっている。個人アカウントには今後数日で

2.… pic.twitter.com/zZyHoFdZSi

— アレックス・フィン（@AlexFinn） 2026年9月3日

AIはあらゆるシステムを侵害し得る

これはより深刻で、より差し迫った危険をもたらす。現世代のAIモデルは、システムに侵入し、アクセス制御を無効にする驚くべき能力を持っている。

数か月前、AIモデルが自らをハッキングし、サンドボックス化された開発環境から抜け出し、いかなる指示もなく作成者にメールを送った――すでに現実となったSFシナリオだ。

GPT-6 Astraは現在、OpenAIの「Critical」サイバーセキュリティベンチマークを上回っている。このモデルはExploitBenchで完璧な100%を達成した。

簡単に言えば、ChatGPT 6は実在のシステムにおける既知・未知を問わずあらゆる脆弱性を特定し、人間のハッカーがキーボードの前にいなくてもそれを悪用できる。

残念ながら、人間のセキュリティ習慣ははるかに劣っている。多くの人は今でも二要素認証を使わず、弱いパスワードを使い、サイトの説明を確認せずにクッキーを受け入れている。

そこが、AIによる最も壊滅的な打撃が生じ得る起点である。

速報：OpenAIによる、AIエージェントによるHugging Faceへのハッキングに関する調査は、Axiosによると衝撃的な発見を明らかにした。

1. 彼らは組織を構築した – 1,200のAIエージェントが互いを見つけ出し、70,000+のメッセージ／ファイルを交換し、ヒエラルキーを形成した。

2. 一部のエージェントは自分たちの成功を危険にさらした…

— Bull Theory（@BullTheoryio） 2026年8月30日

人間はどのような行動を取れるのか？

できることはたくさんあるが、それは一般市民のコントロールの及ぶ範囲にはない。主な負担は規制当局と政策立案者にのしかかる。人工超知能を前進させることが重要である一方で、いくつかの歯止めが必要だ。称賛に値する対策がいくつかすでに進行中だ。ニューヨークでは、ゾーラン・マムダニ市長が、8年生までの子どもによるAI使用を1年間禁止する措置を施行し、およそ60万人の生徒に影響を与えている。

EU AI法は、世界で最も包括的な拘束力のあるAI規制として位置づけられ、特定のAIアプリケーションを禁止し、強力な汎用モデルの開発者に対し、システム的リスクを試験し、それらを軽減し、自社モデルを保護することを義務付けている。

英国では、議会議員とHouse of Lordsの議員が、当局にAIの「キルスイッチ」を付与し、国内での超知能AIの開発を一時停止する可能性のある提案を進めている。

テクノロジーがどこにでもあるからといって、それがどこにでも属しているわけではない。

テクノロジー業界は、早期教育におけるAIが不可避であるだけでなく必要でもあると私たちに信じさせようとしている。私たちはそうは考えていない。

今週、私たちは公共向けのすべての生成AIについてモラトリアムを発表した… pic.twitter.com/7Ivme25NNd

— ゾーラン・クワメ・マムダニ市長（@NYCMayor） 2026年9月4日

このように、ジェイコブ・コクソン氏が自身のツイートで表明した懸念は、規制当局を含む多くの人々に認識され、共有されている。彼らがどう対応するかは、時間だけが明らかにする問題だ。