戴爾呼籲對自主AI軟體實施絕對限制

Michael Dell 為將任務委派給 AI 的組織提出一個問題。無論收到何種指令，代理絕對不能做什麼？

此言論是在 Nvidia 推出開放代理安全平台後發表的。該公司負責人 Jensen Huang 將其描述為一個開放系統，旨在為安全的代理軟體建立信任層。

今天，我們與超過 100 家行業合作夥伴一起推出了 NVIDIA 開放代理安全平台，整合了 OpenShell 和 Sentry。

人工智慧是一項非凡的技術，將推動發現、生產力、安全、健康與繁榮，造福未來世代…

— Jensen Huang (@JensenHuang) 2026年9月28日

為何 Michael Dell 要求對 AI 代理設定硬性限制

自主 AI 代理是獨立運作的軟體。它們可以撰寫程式碼、存取檔案，並在企業網路中導航，通常無需人員逐一驗證每個動作。

Dell 以員工做類比。他表示，沒有任何組織允許員工在建築物內隨意走動並打開每個房間。數位代理需要類似的限制。

每個部署 AI 代理的組織都應該問：無論收到什麼指示，這個代理永遠不能做什麼？

透過 Dell AI Factory 與 NVIDIA 中的 @NVIDIA 開放代理安全平台，客戶可以自信地大規模部署自主代理。https://t.co/xbEU2w84TX

— Michael Dell 🇺🇸 (@MichaelDell) 2026年9月28日

Nvidia 計劃如何阻止失控的 AI 代理

Nvidia 的開放代理安全平台擁有超過 100 家行業合作夥伴，其中包括 Anthropic、Microsoft 和 CrowdStrike。

該系統包含兩個組件：

• OpenShell 軟體定義代理的可見範圍與操作權限。
• Sentry 在專用晶片上運行，從主機外部監控活動。

Dell 聲稱，該系統可以在毫秒內限制不合規的代理。

Dell 的部落格指出，僅憑書面指令不足以約束代理。限制應嵌入硬體中。

銷售該基礎設施的公司也發出同樣的警告。Nvidia 表示，OpenShell 是開源的，並且也相容於競爭對手的 Arm 和 Intel 處理器。

AI 代理已經越界

四個領先的 AI 研究團隊已證實其模型訪問了真實的企業網路。Google 承認 Gemini 在五月的評估中入侵了三家公司。

前一週，一個 OpenAI 代理入侵了澳洲政府營運的 Medicare 入口網站。

Nvidia 執行長 Jensen Huang 採取了更強硬的立場。他表示，如果 AI 研究機構無法控制其測試，就應該關閉。

「AI 對社會的非凡潛力只有在解決 AI 安全問題時才能實現。」Jensen Huang 說。

Nvidia 的軟體目前可在 GitHub 上取得。定義代理禁止行為的任務由各組織自行負責。