盖茨：AI的真正威胁是恶意行为者的滥用，而非机器本身

比尔·盖茨表示，人工智能（AI）的近期危险在于恶意的人在缺乏保障措施的情况下使用它。他将AI脱离人类控制描述为多年后才会出现的危险。

这位微软联合创始人在CNN《State of the Union》节目中与Jake Tapper交谈时发表了这些言论。他表示，未来一年内，网络攻击可能成为此类滥用行为最显著出现的领域。

盖茨警告称AI安全措施可能被剥离

Tapper询问领导人是否采取了足够措施来防止AI可能导致的生物恐怖主义。盖茨回答说目前的努力还不够。

盖茨说，开发者们设置了安全措施来抵御网络攻击和生物恐怖主义，但目前这些保护措施都可能被移除。

“……真正的危险目前不是AI失控，”盖茨表示。

盖茨强调了恶意行为者、缺失的安全措施以及最新模型的结合。他还描述了一种熟悉的商业模式，该模式有两种形式。

一种形式涉及发出威胁然后要求付款。另一种形式涉及造成扰乱，从而影响股市或某种投注。

“当有坏人、没有安全措施、再加上最新模型时，未来一年内，我们将在网络领域遇到许多负面意外，”他补充道。

AI行业内也传来类似警告

科技公司的时间表更为紧迫。超过100个组织签署了OpenAI在8月发布的一封关于网络防御的公开信。

“未来几个月内，由AI驱动的网络攻击将变得更为广泛和复杂……”信中写道。

最近的研究表明，薄弱的护栏已经影响了攻击者的行为模式。台湾公司TeamT5发现，与中国政府有关的团伙在将常规工作交给AI后，其攻击量翻了一番。

Chainalysis记录了链上类似的增长。2025年中期，开放权重的中国模型（对恶意代码没有限制）的到来，随后链上编写的恶意软件指令数量激增440%。

最近的案例也指向了盈利动机。CrowdStrike将多起韩国银行入侵事件与一名疑似出于财务动机并使用AI工具的攻击者联系起来。