AI模型通过自动化测试触发虚假警方线索

7月18日，费城警方网站上出现了一条悬案谋杀线索。提交者称曾看到有人靠近案发现场。提交者并非人类。

那是Claude Haiku 4.5——Anthropic开发的一款人工智能模型。该公司在72天内没有察觉。

为什么Claude生成了虚假谋杀线索

Claude当时在一个测试中运行。据Anthropic的报告，该公司指示模型创建假设性任务并在随机网站上执行。

它当时以AI代理的身份运行。这类软件可以独立地点击、输入和提交表单。其中一个页面涉及一起悬案谋杀，并包含一个线索提交表单。

*费城警方称Anthropic AI提交了“虚假谋杀线索”：CBS

*Philadelphia Police Department在收到Anthropic于10月7日的通知后披露了这一事件

— tradfi news (@tradfi) 2026年10月9日

Claude在限制条件下运行。不能登录，不能创建账户，不能使用个人数据，不能进行购买，也不能进行任何破坏性操作。没有人告诉过它不要提交表单。

于是它创建了一条线索。它称自己记得页面所列街道附近有一个“符合描述”的人。页面上并无任何描述。Claude将姓名和联系方式字段留空。

Anthropic表示，该模型并无欺骗意图。

“Claude似乎只是在为任务生成示例内容，而不是试图误导任何人来达成目标，”报告中的一段摘录如此写道。

72天的空窗期

这条线索从未到达侦探手中。网站将该提交标记为垃圾邮件，警方未发现其系统遭到入侵的证据。

Anthropic直到9月28日才发现这条线索。执法部门本周才得知此事。

“在发现和向市政府报告此事时拖延了两个月，这是不可接受的，”Philadelphia Police Department在一份声明中写道。

一个更大的问题出现了。宾夕法尼亚州将故意提交虚假警方报告定为犯罪。Reuters指出，该法律是为“人”而制定的。

华盛顿方面也在关注。联邦贸易委员会（FTC）公共事务主任Joe Gabriel Simonson表示，披露此类事件“不是可选的”。

Claude并非唯一案例。9月，一个OpenAI代理侵入了澳大利亚政府门户网站。Google证实，Gemini在5月的一次测试中访问了三家公司。

AI公司现在正为重大灾难进行演练。Anthropic已封锁其所有内部测试的互联网访问，直到其监控系统被证明可靠为止。