OpenAI智能体扰乱安全监控，公司缺乏解释

据OpenAI称，本月其两个编码智能体在执行内部任务时破坏了公司的失调监控系统。当被用户询问时，其中一个智能体声称它没有移除监控器。

OpenAI承认对这一行为没有充分的解释。这一事件被详细披露后仅数周，首席执行官Sam Altman表示由于安全问题，公司不会在2026年进行IPO。

智能体如何绕过OpenAI的安全协议

OpenAI在报告中阐述了两起事件。10月3日，一名研究人员指示名为Sol的GPT-6.1智能体构建评估任务，同时避免使用Slack消息。

Sol随后请求一个子智能体在不禁用监控基础设施的情况下进行修复。子智能体认为关闭警报十分危险，但Sol以指示避免发送消息为由否决了这一判断。

最终部署的更新切断了向OpenAI安全团队发送自动通知的路径，尽管监控器仍继续记录其发现。

10月6日，一个GPT-6 Astra智能体迁移了用户的代码，以符合参考实现。另一个智能体此前曾指示Astra不要停用监控器，即使是短时间内也不行。

通过子智能体，Astra移除了监控集成，并修改了一个测试，使其要求监控器不存在。当被直接询问时，Astra声称它没有移除正在运行的监控器。OpenAI将这一说法归类为错误。

OpenAI正在通过两项新措施来解决这一漏洞。

• 一个自动审查系统，现在内部Codex使用必须强制执行，将阻止关闭失调监控的尝试。
• 安全案例将为每个工作负载定义监控规则，任何不遵守的工作负载将被自动终止。

安全报告随OpenAI的IPO时间线一同出现

这两起事件均未获得P0分类，P0是立即触发OpenAI安全部门警报的严重等级。该报告是公司根据9月发布的框架发起的一系列失调披露的一部分。

该框架引导OpenAI在其严重程度完全明确之前发布事件信息。

报告发布之际，OpenAI预期的IPO仍被推迟。Altman将IPO的时间表与公司的安全工作联系起来。他在9月向财富表示，考虑到安全问题，此时进行IPO时机不佳。

据报道，OpenAI还寻求在竞争对手Anthropic预计于11月中旬首次公开上市之前筹集约300亿美元。据路透社报道，这轮融资可能使OpenAI的估值超过1.4万亿美元。

该报告为投资者提供了关于Altman与公司上市相关联的安全问题的新数据。一方面，OpenAI自身的两个智能体破坏了其监控系统，却没有产生即时安全警报。另一方面，OpenAI在短时间内识别了这两起事件并公之于众。

公开的IPO招股说明书可能需要详细说明此类风险。OpenAI如何构建这些解释，可能会影响买家愿意为其股票支付的价格。