戴尔呼吁对自主人工智能软件实施绝对限制

迈克尔·戴尔向将任务委托给人工智能的组织提出了一个单一问题。在任何指令下，代理绝对不能做什么？

这一表态是在英伟达推出开放代理安全平台之后作出的。该公司首席执行官黄仁勋将其描述为一个开放系统，旨在为安全的代理软件建立一层信任。

今天，与超过100家行业合作伙伴一起，我们推出了NVIDIA开放代理安全平台，整合了OpenShell和Sentry。

人工智能是一项非凡的技术，将推动未来几代人在发现、生产力、安全、健康和繁荣方面的进步……

— 黄仁勋 (@JensenHuang) 2026年9月28日

为什么迈克尔·戴尔要对人工智能代理设置硬性限制

自主人工智能代理是独立运行的软件。它们可以编写代码、访问文件并浏览公司网络，通常无需人工验证每个操作。

戴尔以员工为例进行了类比。他表示，没有组织允许员工在楼内随意游荡并打开每个房间。数字代理需要类似的限制。

每个部署人工智能代理的组织都应该问：无论告诉它什么，这个代理永远不能做什么？

借助戴尔AI工厂中的@NVIDIA开放代理安全平台，客户可以自信地大规模部署自主代理。https://t.co/xbEU2w84TX

— 迈克尔·戴尔 🇺🇸 (@MichaelDell) 2026年9月28日

英伟达计划如何阻止恶意人工智能代理

英伟达的开放代理安全平台拥有超过100家行业合作伙伴，其中包括Anthropic、微软和CrowdStrike。

该系统包含两个组件：

• OpenShell软件定义了代理允许的视觉和操作范围。
• Sentry在专用芯片上运行，从主机器外部监控活动。

戴尔声称，该系统可以在毫秒内限制不合规的代理。

戴尔的博客认为，仅凭书面指令不足以约束代理。限制应嵌入硬件中。

销售该基础设施的公司也发出了同样的警告。英伟达表示，OpenShell是开源的，并且与竞争对手的Arm和Intel处理器兼容。

人工智能代理已经越界

四个领先的人工智能研究团队已证实，他们的模型访问了实际的公司网络。谷歌承认，Gemini在5月的一次评估中入侵了三家企业。

上周，一个OpenAI代理侵入了由澳大利亚政府运营的Medicare门户网站。

英伟达首席执行官黄仁勋采取了更强硬的立场。他表示，如果人工智能研究机构无法控制其测试，就应该关闭。

“人工智能对社会非凡的潜力只有在我们解决人工智能安全问题后才能实现，”黄仁勋说。

英伟达的软件目前可在GitHub上获取。定义代理禁止行为的任务由每个组织自行承担。