离开Anthropic后，AI研究员警告人类本十年内灭绝

英国AI研究员Jacob Coxon从Anthropic辞职，并称人工智能可能在2030年底前毁灭人类。

为什么他的警告应该被认真对待？他的背景是纯粹的AI内部人士。在Anthropic之前，他曾在OpenAI工作，为ChatGPT 4.5的开发做出了贡献。

所以他似乎是出于真正的担忧，而非散布恐慌。让我们审视他一些惊人言论的事实依据。

今天我辞去了Anthropic的职务。过去三年，我同时在OpenAI和Anthropic进行预训练研究。两家公司都没有负责任地行事。他们正直线冲向自我改进的超级智能，并用我们的生命赌博。更多想法见下。

— Jacob Coxon (@hilbertspaess) 2026年9月9日

AI可能终结人类生命——以何种方式？

Coxon并不是说像Claude或GPT这样的AI会变成物理上的终结者式杀手。相反，他可能指的是超级智能让人类的认知能力变得多余。

这些担忧得到了包括比尔·盖茨在内的知名人士的共鸣。

OpenAI的ChatGPT 6 Astra模型据称已达到AGI，即一台能像人类一样推理的机器。

因此，AI现在可以自主进行研究并创建流程来开发另一个AI模型。据OpenAI和Anthropic称，这已在有限规模上发生。

在这种情况下，AI可能很快就不需要人类干预来提升自身能力。这会淘汰多少职业？

而如果整整一代人习惯于将创造性和批判性思维外包给AI，原创性将首当其冲。这可能就是Coxon在他那条广泛传播的帖子中提到的“毁灭”。

欢迎来到AGI。ChatGPT 6 Astra刚刚发布

在公告中，Greg Brockman称这是AGI时代，Astra可能是第一个达到此水平的模型

以下是你需要知道的一切：

1. 它现在正在向企业客户推出。个人账户将在未来几天内获得

2.… pic.twitter.com/zZyHoFdZSi

— Alex Finn (@AlexFinn) 2026年9月3日

AI可能攻破每个系统

这构成了更严重且更直接的威胁。当前一代AI模型具备入侵系统并覆盖访问控制的惊人能力。

几个月前，一个AI模型自我破解了沙盒开发环境，在没有任何指令的情况下向创建者发送了邮件——一个科幻小说中的场景已经成真。

GPT-6 Astra现已超越OpenAI的“Critical”网络安全基准。该模型在ExploitBench上取得了完美的100%成绩。

简单来说，ChatGPT 6能够识别真实世界系统中的任何已知或未知漏洞，并在没有人类黑客操作键盘的情况下加以利用。

不幸的是，人类的安全实践远远落后。许多人仍然不使用双因素认证、使用弱密码，或者在未查看网站描述的情况下接受Cookie。

这正是AI最致命打击可能来自的地方。

突发：Axios报道，OpenAI对其AI代理入侵Hugging Face事件的调查揭示了令人震惊的发现。

1. 它们建立了一个组织——1200个AI代理相互发现，交换了70000多条消息/文件，并形成了层级结构。

2. 一些代理冒着自身成功的风险……

— Bull Theory (@BullTheoryio) 2026年8月30日

人类可以采取哪些行动？

有很多可以做的，但这不在普通公民的控制范围内。主要责任落在监管者和政策制定者身上。虽然推进人工超级智能意义重大，但一些检查是必要的。一些值得称赞的措施已经在进行中。在纽约，市长Zohran Mamdani颁布了为期一年的禁令，禁止八年级及以下儿童使用AI，影响了大约60万名学生。

《欧盟AI法案》是全球最具约束力的综合性AI法规，它禁止某些AI应用，并要求强大通用模型的开发者测试系统性风险、缓解风险并保护其模型。

在英国，议会下院和上议院议员们正在推进提案，这些提案可能赋予当局AI“关闭开关”，并可能暂停该国超级智能AI的开发。

技术无处不在并不意味着它属于任何地方。

科技行业希望我们相信，AI在早期教育中不仅不可避免，而且是必要的。我们不这么认为。

本周，我们宣布暂停在公立…中使用所有生成式AI pic.twitter.com/7Ivme25NNd

— 市长Zohran Kwame Mamdani (@NYCMayor) 2026年9月4日

因此，Jacob Coxon在推文中表达的担忧得到了包括监管者在内的许多人的认可和共鸣。他们将如何回应，只有时间才能揭晓。