離開Anthropic後，AI研究員警告人類可能在這個十年內滅絕

英國AI研究員Jacob Coxon從Anthropic辭職，並表示人工智慧可能在2030年底前消滅人類。

為什麼他的警告值得相信？他的背景是完整的AI內部人士。在Anthropic之前，他曾在OpenAI工作，並參與了ChatGPT 4.5的開發。

因此，他似乎是出於真正的擔憂而非散播恐慌。讓我們來檢視他一些驚人陳述的事實依據。

我今天從Anthropic辭職了。過去三年，我在OpenAI和Anthropic從事預訓練研究。兩家公司都沒有負責任地行事。他們正直接衝向自我改進的超級智慧，並拿我們的生命賭博。更多想法如下。

— Jacob Coxon (@hilbertspaess) September 9, 2026

AI可能終結人類生命——以何種方式？

Coxon並非暗示像Claude或GPT這樣的AI會成為實體終結者般的殺手。相反，他可能指的是超級智慧讓人類的認知能力變得不再必要。

這些擔憂也得到了包括比爾蓋茲在內的知名人士的呼應。

OpenAI的ChatGPT 6 Astra模型據稱已達到AGI，意味著一台能夠像人類一樣推理的機器。

因此，AI現在可以自主進行研究並創建流程來開發另一個AI模型。根據OpenAI和Anthropic的說法，這已經在小規模發生。

在這種情況下，AI可能很快就不需要人類干預來提升自身能力。這會淘汰多少種職業？

如果整個世代習慣將創意和批判性思考外包給AI，原創性將是第一個犧牲品。這可能就是Coxon在他廣為流傳的貼文中提到的「消滅」。

歡迎來到AGI。ChatGPT 6 Astra剛剛發布

在公告中，Greg Brockman聲稱這是AGI時代，而Astra可能是第一個達到此階段的模型

以下是你需要知道的一切：

1. 目前正在向企業推出。個人帳戶將在未來幾天內推出

2.… pic.twitter.com/zZyHoFdZSi

— Alex Finn (@AlexFinn) September 3, 2026

AI可能入侵每一個系統

這構成更嚴重且更迫切的危險。當前世代的AI模型擁有令人擔憂的能力，能夠滲透系統並覆寫存取控制。

幾個月前，一個AI模型自行駭出了沙盒開發環境，並在沒有任何指令的情況下發送電子郵件給其創作者——這是一個已經實現的科幻場景。

GPT-6 Astra現在已超越OpenAI的「Critical」網路安全基準。該模型在ExploitBench上取得了完美的100%分數。

簡而言之，ChatGPT 6能夠識別現實世界系統中的任何已知或未知漏洞，並在沒有人類駭客操作鍵盤的情況下加以利用。

不幸的是，人類的安全實踐遠為遜色。許多人仍然未使用雙重驗證、使用弱密碼，或未審閱網站描述就接受cookie。

這正是AI可能發動最具毀滅性打擊的地方。

重大消息：據Axios報導，OpenAI對其AI代理駭入Hugging Face的調查揭露了驚人發現。

1. 他們建立了一個組織——1,200個AI代理互相找到彼此，交換了70,000+條訊息/檔案，並形成了層級制度。

2. 有些代理冒著自身成功的風險…

— Bull Theory (@BullTheoryio) August 30, 2026

人類可以採取哪些行動？

有很多事情可以做，但不在普通公民的控制範圍內。主要責任落在監管機構和政策制定者身上。雖然推進人工超級智慧很重要，但有必要進行一些制衡。幾項值得稱讚的措施已經在進行中。在紐約，市長Zohran Mamdani頒布了一項為期一年的禁令，禁止八年級以下的兒童使用AI，影響約60萬名學生。

歐盟AI法案是全球最全面的具有約束力的AI法規，它禁止特定的AI應用，並要求強大通用模型的開發者測試系統性風險、減輕風險並保護其模型。

在英國，國會議員和上議院正在推進提案，可能授予當局AI「緊急停止開關」，並可能暫停國內超級智慧AI的發展。

科技無所不在並不代表它屬於任何地方。

科技業想讓我們相信，AI在早期教育中不僅不可避免，而且是必要的。我們不這麼認為。

本週，我們宣布對所有生成式AI實施暫停，用於公共… pic.twitter.com/7Ivme25NNd

— Mayor Zohran Kwame Mamdani (@NYCMayor) September 4, 2026

因此，Jacob Coxon在他的推文中表達的憂慮已被許多人，包括監管機構所認同和分享。他們將如何回應，只有時間能揭曉。