Anthropic研究者が辞任、AIが全人類を滅ぼす可能性を警告

株式市場は、AI不安による売り出しのいくつかの明確な段階を経てきました。具体的な懸念事項には以下が含まれます：

• AIが壁にぶつかる
• AIが高すぎる
• AIがコモディティ化する
• 特定の研究所が完全に勝利する

市場が次に直面しなければならない問いは次のとおりです：もしAIが強力すぎたらどうなるのか？

火曜日、Anthropicの研究者であるJacob Coxon氏は、OpenAIとAnthropicで3年間のプレトレーニングモデルを担当した後、辞任を発表しました。「どちらの企業も責任ある行動をとっていません。彼らは自己改善型の超知能へとまっしぐらに競争し、私たちの命を賭けています」と彼は書いています。

その後、彼は警告を発しました：

「この技術の力を過小評価しないでください。これらはすぐに、あらゆるものをハッキングし、あらゆる分野を一夜にして変革し、実際の権力とリソースを獲得できる超人的なシステムになります。私たちはこれらの各領域での進歩を目の当たりにしてきましたが、その進歩は鈍化していません。」

規制を求める声が高まっており、特にReutersの報道によると、5月から6月にかけてのOpenAIの不正エージェントの脱走では、少なくとも10の追加の非公開サイトが通信に使用され、ある推計では+23に上るとされています。

Coxon氏は、ハッキングは恐怖の始まりに過ぎないと述べています：

「AIを構築している人々は、それがこの10年の終わりまでに私たち全員を殺す可能性があると真剣に信じています。」

その後すぐに、Anthropicの安全担当の同僚が、今後10年以内にAIが「全人類を殺す」可能性は10%を超えると述べました。

明らかに、AIが全人類を殺す可能性は株式市場にとって有害ですが、提案された解決策も問題を引き起こします。同じ従業員は、世界的な競争は鈍化しなければならないが、「モデルの能力向上の一時的な禁止などのコストのかかる措置が必要になる可能性がある」と述べました。

この考え方は、現在の状況ではうまくいかない可能性が高いです。シリコンバレーは「迅速に動き、物を壊せ」という精神を内面化しており、一方で米国と中国は技術戦争に巻き込まれていると見ています。

たとえ一時的な禁止があっても開発は止まらず、密かに続き、それを悪用しようとする絶え間ない誘惑が存在するでしょう。ホワイトハウスに対する国際的な見方を考慮すると、世界的な協力はほぼ不可能です。

視点を変えて、人間の絶滅やAIによるインターネットの壊滅を脇に置けば、Coxon氏の「進歩は鈍化していない」という発言を考えてみてください。私の見解では、バリューレイヤーのコモディティ化のリスクは高まっています。モデルが正確に税金の申告をできるようになれば、より多くの価値を生み出すために超知能は必要ありません。オフショアの信託戦略があるかもしれませんが、納税者の99%にとっては、単にH&R Blockや公認会計士を置き換えるだけです。

この考えはさらに広がり、私は引き続き、最高のAIトレードは実体経済にあると強く信じています。すなわち、低い利益率を持ち、AIによって改善できるHALO銘柄です。

一方、市場はテクノロジー企業がテクノロジーから価値を獲得するという考え方に慣らされてきました。電気やトランジスタの場合はそうではなく、AIも同様になるでしょう。