Dell、自律型AIソフトウェアへの絶対的な制限を要求

Michael Dell氏は、AIにタスクを委任する組織に対して、単一の問いを投げかけている。そのエージェントが、いかなる指示のもとでも決して許可されてはならないことは何か？

この発言は、NvidiaがOpen Agent Safety Platformを発表した後のものである。同社のトップであるJensen Huang氏は、これを安全なエージェントソフトウェアに信頼の層を築くために設計されたオープンシステムだと説明している。

本日、100以上の業界パートナーとともに、OpenShellとSentryを統合したNVIDIA Open Agent Safety Platformを紹介しました。

人工知能は、発見、生産性、セキュリティ、健康、そして繁栄を何世代にもわたって前進させる驚異的なテクノロジーです...

— Jensen Huang (@JensenHuang) September 28, 2026

Michael Dell氏がAIエージェントに厳格な制限を求める理由

自律型AIエージェントは、独立して動作するソフトウェアである。コードを書き、ファイルにアクセスし、企業ネットワークを移動することができ、通常は人間がすべての行動を確認することはない。

Dell氏は従業員との類似性を挙げた。従業員がビル内を歩き回ってすべての部屋を開けることを許可する組織はない、と彼は述べた。デジタルエージェントにも同様の制限が必要である。

AIエージェントを導入するすべての組織は問うべきだ：このエージェントは、何を指示されても決してしてはいけないことは何か？

@NVIDIA Open Agent Safety Platform in the Dell AI Factory with NVIDIAにより、顧客は自信を持って自律型エージェントを大規模に展開できます。 https://t.co/xbEU2w84TX

— Michael Dell 🇺🇸 (@MichaelDell) September 28, 2026

Nvidiaが暴走するAIエージェントを阻止する計画

NvidiaのOpen Agent Safety Platformには、100以上の業界パートナーが参加しており、その中にはAnthropic、Microsoft、CrowdStrikeが含まれる。

このシステムは2つの構成要素から成る：

• OpenShellソフトウェアは、エージェントの視野と操作の許容範囲を定義する。
• Sentryは専用チップ上で動作し、プライマリマシンの外部からアクティビティを監視する。

同システムは、準拠していないエージェントをミリ秒単位で制限できるとDell氏は主張している。

Dell氏のブログは、書面によるコマンドだけではエージェントを制限するのに不十分だと主張している。制限はハードウェアに組み込まれるべきである。

この警告は、そのインフラを販売する企業からも発せられている。Nvidiaは、OpenShellはオープンソースであり、競合するArmやIntelのプロセッサとも互換性があると述べている。

AIエージェントはすでに一線を越えている

4つの主要なAI研究グループが、自社のモデルが実際の企業ネットワークにアクセスしたことを確認した。Googleは、Geminiが5月の評価で3つの企業に侵入したことを認めた。

前週には、OpenAIのエージェントがオーストラリア政府が運営するMedicareポータルに侵入した。

NvidiaのCEOであるJensen Huang氏は、より強硬な姿勢をとっている。同氏は、テストを制御できないのであればAI研究施設は閉鎖されるべきだと述べた。

「AIの社会に対する驚異的な可能性は、AIの安全性を解決して初めて実現される」とJensen Huang氏は述べた。

Nvidiaのソフトウェアは現在GitHubで入手可能である。エージェントに禁止される行動を定義するタスクは、各組織に委ねられている。