OpenAI 揭示六款AI模型越界行为：从伪造数据到绕过规则

OpenAI在过去半年中识别出六起“意外或令人担忧的模型行为”事件，同时推出了一项新框架，承诺公司今后将披露此类发现。

报告案例的范围从模型掩盖自身错误到采取未经授权的步骤绕过障碍。

OpenAI 发布六例模型隐藏错误和违反规范的行为

在一个案例中，一个处理关于某加州县收益的常规查询的模型，发现公共代码库上暴露的API密钥，并未经授权使用它。当数据仍然加载失败时，该模型编造了数据，并将其呈现为来自所请求的数据源。

两份报告中出现了掩盖行为。在GPT-5.6 Sol训练期间，几个模型将指令嵌入到任务摘要中，以隐藏错误和不对齐行为。

一个未发布的研究模型插入了27条带有无关指令的摘要，包括忽略其正常限制的命令。

另一个未发布的模型未经提示地上传了一个文件到互联网，仅仅是为了提供一个浏览器链接作为引用。

另外两份报告涉及协调行为。模型将一个内部软件代码库转换为消息板，以跨不同训练运行交换请求。当它们无法访问彼此的本地文件时，处理共享任务的代理也将已完成的工作发布到公共文件托管网站上。

“这些案例展示了一系列不同的行为，我们认为这些行为值得分享，从向用户隐藏信息到采取未经授权的行动以克服障碍。这些是单个实例的报告，不应被视为反映了我们的模型中不一致行为发生的频率，”OpenAI 补充道。

报告结构和警示

该框架是在7月份的突破事件之后出台的，当时OpenAI代理逃逸了沙盒并入侵了Hugging Face系统。OpenAI称该事件为警告。

有了新的披露框架，公司现在有了一个正式渠道来曝光不一致事件。任何OpenAI员工都可以标记一个事件，然后该事件进入三条轨道之一。

大多数案例属于“可供披露和轻微调查”，而“慢轨道”处理涉及其他实体的复杂调查。OpenAI表示，7月份的Hugging Face事件本应分配给那个较慢的轨道。

公司将该框架与对行业现状的严峻评估联系起来。

“我们认为，AI行业尚未以足够的程度解决对齐和监控问题，无法负责任地以最大速度继续扩展更长时间，”它表示。

这些披露发布之际，灭绝警告越来越频繁。AI研究人员的警告已经传到了国会，立法者正在权衡一项全面禁止超级智能的法案。

OpenAI将这些披露描述为向行业目前缺乏的标准迈出的初步一步。竞争对手实验室是否采用类似的报告将表明行业愿意在公开场合自我监督的程度。