Anthropic研究员辞职，称AI行业担忧人类灭绝

Anthropic研究员Jacob Coxon宣布辞职，并指责Anthropic和OpenAI都在加速迈向自我改进的超级智能，同时危及人类生命。

过去三年，Coxon表示他在两家公司都从事预训练工作。他通过X上的帖子分享了这些指控。

Anthropic研究员离职，对留下的人发出严峻预测

据Coxon称，这项技术的发展路径被严重低估。他断言，未来的系统将能够黑掉任何东西，一夜之间彻底改变整个行业，并获得真正的影响力和资源。

Coxon进一步声称，内部讨论与公开声明之间存在鲜明对比。他说，高层领导人在媒体露面时会缓和措辞，但在私下承认担忧。

“建造AI的人真诚相信它可能在未来十年内杀死我们所有人。这不是营销噱头，”他说。“没有其他人类活动构成这种程度的危险。”

Coxon区分了他以前的工作场所。他说，在OpenAI，许多员工未能理解文明层面的风险，而Anthropic认识到这些风险，却仍然陷入争夺第一的竞赛中。

“Jacob在这里是对的——我们确实认真相信AI可能杀死所有人类！我个人认为这个概率>10%，就在未来十年内。我相信Anthropic正在尽力，但我们还没有解决超级智能对齐的计划，也没有明确走在正确的轨道上。”

— Evan Hubinger (@EvanHub)，2026年9月9日

Coxon加入了2026年离职员工日益增长的名单。2月，Anthropic的安全保障负责人Mrinank Sharma辞职。

9月1日，前OpenAI首席未来学家Joshua Achiam表示，失控的AI系统将自主繁殖并寻求财务和政治影响力。

请求合作

Coxon将他所谓的进入终局阶段描述为一种傲慢的赌注。他坚持认为，如此重大的选择不应源于私人公司的内部聊天。

尽管如此，Coxon表达了协调的希望。他认为Hugging Face事件增加了美国实验室之间达成节奏协议的可行性。

Anthropic和OpenAI都已经支持了这一概念。7月，来自前沿实验室的超过1100名员工签署了“为前沿设定节奏”的信函，其中包括Anthropic CEO Dario Amodei和OpenAI首席科学家Jakub Pachocki。

“我们请求美国政府支持一项国际努力，以开发必要的技术和治理工具，从而有意识地放缓自动化AI发展的前沿，”信函中写道。

此外，两家公司已经支持了一份关于网络安全的联合公开信，谷歌、微软以及大约150个其他实体也加入了该信。信函警告称，AI驱动的攻击在不久的将来将大幅增加频率和复杂性。

Coxon的警告是在联合国人权事务主管Volker Türk告知人权理事会先进AI可能构成生存威胁之后不久发出的。

为了避免全球竞争，Coxon建议暂停增强模型能力的尝试。他最后要求实验室研究者反思，他们是否希望在不明后果的情况下启动一个超级智能的强化学习过程。