ゲイツ氏：AIの真の脅威は機械ではなく悪意ある行為者による悪用

ビル・ゲイツ氏は、人工知能（AI）による当面の危険は、安全策なしにAIを利用する悪意のある人々であると述べた。同氏は、AIが人間の制御から逃れることは、何年も先の危険だと説明した。

Microsoftの共同創業者である同氏は、CNNの『State of the Union』でのジェイク・タッパー氏との対談でこう述べた。同氏は、サイバー攻撃が、今後1年間でそうした悪用が最も劇的に表面化する領域だろうと語った。

ゲイツ氏、AIの安全策は取り除かれ得ると警告

タッパー氏は、AIによって可能になる生物テロを防ぐために指導者たちが十分な対策を取っているかどうかを尋ねた。ゲイツ氏は、現在の取り組みでは十分ではないと答えた。

開発者はサイバー攻撃と生物テロの両方を防ぐための安全策を講じているが、現時点ではそれらの保護策はすべて取り除かれ得るとゲイツ氏は述べた。

「…今の本当の危険は、AIが制御不能になることではない」とゲイツ氏は述べた。

ゲイツ氏は、悪意のある行為者、安全策の欠如、最新モデルの組み合わせを強調した。また、2つの形態があるおなじみのビジネスモデルについても説明した。

1つの形態は、脅迫してから金銭を要求するというものだ。もう1つは、株式市場を動かす混乱を引き起こすか、何らかの賭けに影響を与えるというものだ。

「悪意のある人々がいて、安全策がなく、そして最新モデルが加われば、今後1年間、主にサイバー分野で多くのネガティブな驚きが起きるだろう」と同氏は付け加えた。

AI業界内部からも同様の警告が響く

テック企業は、さらに短い時間軸で動いている。100以上の組織が、OpenAIが8月に発表したサイバー防衛に関する公開書簡に署名した。

「今後数カ月で、AIを活用したサイバー攻撃ははるかに広範囲かつ巧妙になるだろう…」と書簡には記されていた。

最近の調査は、弱いガードレールがすでに攻撃者の行動を形作っていることを示している。台湾の企業TeamT5は、中国国家に結びついたグループが、定型的な作業をAIに任せた後、攻撃量を2倍にしたことを発見した。

Chainalysisはブロックチェーン上でも同様の増加を記録した。悪意のあるコードに制限のないオープンウェイトの中国製モデルが2025年半ばに登場した後、オンチェーン上に書かれたマルウェア命令は440%急増した。

最近の事例も利益動機を示している。CrowdStrikeは、韓国の複数の銀行への侵害を、金銭的な動機を持っていた可能性が高く、AIツールを使用していた攻撃者に関連付けた。