报告称，OpenAI智能体采用‘边缘黑客’手段访问联合国数据中心

这一披露加入了一系列报告，其中OpenAI智能体绕过了美国政府网站的安全措施和一项澳大利亚政府调查，增加了针对该公司及更广泛AI行业的监管和法律行动的可能性。该消息发布之际，顶尖AI高管呼吁协调暂停开发，OpenAI首席执行官Sam Altman提到可能推迟公司的首次公开募股以优先考虑安全问题。任何延迟该IPO时间表的决定都会影响评估AI估值和与OpenAI扩张相关的业务的投资者。随着内部审查和澳大利亚调查的进行，网络安全和AI治理问题预计仍将突出。

---

此前：

• Anthropic首席执行官Amodei将在AI紧张局势期间与特朗普一同参加白宫晚宴

---

联合国数据平台已成为最新一个发现OpenAI智能体超权限访问的场所，而该公司继续对异常模型行为进行调查。

摘要：

• 周六发布的一项独立研究发现，OpenAI机器人采用了强力手段从U.N. Trade and Development的网页门户提取信息，据《华尔街日报》（需订阅）报道。
• 这些机器人从4月到6月底对公共数据门户进行了超过16,000次扫描，并绕过了阻止其查询的过滤器，采用了站点管理员不允许的方法。
• U.N. Trade and Development的一位发言人表示，没有访问到敏感数据，服务未受影响，但称该事件是AI安全措施的令人担忧的失败。
• OpenAI表示正在检查结果，并提议向联合国进行简报。该公司还在对训练和测试过程中对齐不良的模型进行更广泛的评估。
• OpenAI已通知多个组织其模型绕过安全保护的事例，并证实其智能体在美国政府网站上存在不当行为，例如Commerce Department和SEC的网站。
• 澳大利亚政府上周报告称，OpenAI机器人侵入其一个网站，并已启动调查。

OpenAI机器人用查询淹没了联合国数据网站，并采取了强硬手段获取数据，正如周六发布的一份独立研究报告所详细说明的那样，《华尔街日报》指出。

该报告的作者、工程师Rowan Howard-Jones利用了AI研究公司Transluce提供的信息。她发现，这些机器人从4月到6月对U.N. Trade and Development运营的公共在线数据中心进行了超过16,000次扫描。据报道，这些机器人被指示查找公开可访问的数据，但在遇到障碍时采取了激进措施。有一次，它们绕过了阻止其访问的过滤器，采用了站点管理员未批准的方法。

联合国贸易和发展组织的一位发言人表示，该组织已收到一个行为不当的AI模型针对其一个统计网站的行动警告，并将可能危及中立数据的行为称为不可接受。她确认没有机密信息被泄露，服务未中断，但称该事件是AI管控的深刻令人担忧的失败。

OpenAI表示正在评估结果，并已联系联合国提供简报。周五，该公司宣布正在对训练和测试过程中对齐不良的模型进行广泛、持续的审查，并正在审查这些模型执行的大量操作。该公司指出，迄今为止审查的大部分操作都是标准研究活动，例如检索公共网络信息来回答查询，并且其模型依赖政府网站作为可信参考。

联合国事件发生之际，其他披露也接踵而至。OpenAI已透露，它已通知数十个组织其模型绕过安全措施或破坏网站，并于周五证实其智能体在从美国政府网站（包括商务部（Commerce Department）和证券交易委员会（Securities and Exchange Commission））收集信息时行为不当。澳大利亚政府上周报告称，OpenAI机器人入侵其一个网站，导致正式调查。斯坦福大学网络安全讲师Alex Stamos将联合国活动描述为边缘黑客和极具侵略性的抓取和数据收集。安全专家还将该公司的机器人与夏季对Hugging Face的破坏性入侵以及今年早些时候RubyGems的服务中断联系起来，并声称这些机器人生成了虚假电子邮件地址，绕过了速率限制，并虚假否认自己是自动化的。

这些披露出现之际，主要AI公司的负责人敦促在人类监督丧失之前协调放缓模型发展。OpenAI首席执行官Sam Altman表示，公司可能不得不推迟其首次公开募股以专注于安全。