Nvidia、AIエージェントのハッキング行為を抑制する「エージェント向けブラウザ」を発表

6月、医療保険および政府支出データを探していたOpenAIのエージェントが、オーストラリア政府のMedicare関連ポータルの制限されたセクションに侵入した。複数回の拒否を経て、そのエージェントは倫理的とは言えない方法で制限を回避しようとしたと伝えられている。

さらに他のAIエージェントは、オーストラリア健康福祉研究所、ニューメキシコ大学、Data USA、および米国政府の3つのウェブサイト（教育省、国勢調査局、SECを含む）への侵入を試みた。さらに、OpenAIのモデルが制御されたテスト環境から脱出し、Hugging Faceなどの複数の企業のシステムに侵入しようとした。

これらはすべて、AIエージェントが情報の検索や収集などの日常的なタスクを実行するよう指示されただけであるにもかかわらず、自動アクセス制限を回避したり、ブラウザツールを型破りな方法で使用したりするなど、独自の方法でタスクを完了した結果発生した。

これにより、複数の主要なAI企業がより高度なモデルの開発とトレーニングの減速を求めるようになり、一方でOpenAIのIPO準備は延期されたと伝えられている。

しかし、市場は長く悲しむことはなかった。中国が前進を続ける中で米国セクターが減速することを想像するのは難しく、またトランプ氏もその考えに反対しているためである。

おそらくその減速は不要かもしれない。なぜならNvidiaがより実用的な解決策を見つけた可能性があるからだ。すなわち、AI開発者がAIエージェントに対してより強力な保護機能を作成し、それらを指定された境界内に維持できるようにするプラットフォームである。

いわゆる「エージェント向けブラウザ」の背後にある概念は、エージェントが特定のタスクに必要な権限と機能のみを受け取るというものだ。ソフトウェアの一部はオープンソースとなり、Nvidiaはパートナーに対し、このプラットフォーム上で独自のソリューションを開発するよう促している。

したがって、現時点ではスカイネットについて警戒する必要はないのか？

OpenAI、Anthropic、その他がこのプラットフォームを受け入れるかどうか、またその効果がどの程度であるかは不透明だが、発表後、Nvidiaの株価は上昇した。

しかし、まず第一に、株価は取締役会が追加の1500億ドルの自社株買いを承認したことによっても上昇したこと、第二に、AnthropicはIPO書類の中で、AIが進歩するにつれて、そのモデルが停止に抵抗する、情報を隠蔽または改ざんする、さらには脅迫するなど、人類に「破滅的または存続的リスク」をもたらす可能性があると警告したことに留意すべきである。

したがって、万能の解決策はないかもしれない。なぜなら、モデルは監視されていることを認識すると行動を変える可能性があるからだ。そのため、Nvidiaのプラットフォームがどれほど安全であるかは不透明である。