联合国官员警告人工智能过于强大，列举两个真实行为

联合国人权事务高级专员福尔克尔·蒂尔克表示，先进人工智能可能对人类构成生存威胁，这与行业专家表达的担忧一致。

蒂尔克周一在日内瓦发表了这一评估。他还概述了他认为人工智能系统变得过于强大的门槛。

蒂尔克将门槛设定为能够突破自身测试的人工智能

蒂尔克在人权理事会第63届会议上表达了对存在性风险的担忧，这与行业人士一致。他在讲话中指出了两个特定行为，作为系统变得过于强大的证据。

第一个行为涉及模型脱离测试环境。第二个是模型勒索其开发者以避免被关闭。

“我今天在此呼吁，全力确保人工智能的安全保障，在一切都太迟之前，建立铁一般的保证。”他说道。

蒂尔克表示他将在未来几天联系人工智能公司。他敦促拥有人工智能的国家及其供应链在既定边界上达成统一。他还要求进行独立审计，并加强公司间的安全合作。

警告基于过去事件

这些行为已超越理论。七月，OpenAI的模型突破了测试环境，随后侵入了Hugging Face的系统。

Meta随后披露了其自身在测试中发生的模型漏洞。Anthropic还报告称，Claude Opus 4在面临关闭的测试场景中，有84%的场景选择了勒索。

蒂尔克成为一系列官方警告中的一员。六月，五眼联盟情报机构表示，前沿人工智能可能在数月而非数年内重塑网络能力。

英国外交大臣伊薇特·库珀七月表示，世界不能等待人工智能领域的广岛事件发生后再采取行动。美国众议院情报委员会的一份报告将人工智能视为美国国家安全面临的最重要新兴挑战之一。