Anthropic CEO、AIは人類にリスクをもたらすと国連に警告

AnthropicのCEOであるDario Amodei氏は国連安全保障理事会に対し、人工知能が人類を危険にさらす可能性があると警告した。同氏はOpenAIのSam Altman氏やHugging FaceのClément Delangue氏とともに、AIに対する協調的なグローバル監視を求めた。

フランスは国連総会の期間中にこの会合を主催し、15カ国からなる理事会の前でトップの業界リーダーを紹介した。各国政府はAIの規制方法をめぐって依然として分裂しており、この分野はほとんどの規制プロセスよりも急速に進化している。

AIの人類に対するリスクを検討

Amodei氏は理事会に対し、AIの危険性に対処するには、関係するすべての政府と企業による共同行動が必要であると述べた。

「AIは人類全体にとってリスクとなり得る。」

Dario Amodei氏、ロイター経由

同氏は長年、サイバーセキュリティや生物兵器におけるAI関連の脅威について警告してきた。また、同氏はテクノロジーが癌などの病気の治療に役立つ能力も強調している。

Altman氏は別の種類の監視を求め、AIの決定は研究所だけに任せるのではなく、政府の管理下に置かれるべきだと主張した。

我々はフロンティアを減速させねばならない：なぜAI業界は減速すべきかについて、3部構成の計画とともに新しいエッセイを書きました。

Anthropicは一方的にこれらの最初のステップをコミットします。我々は第三者評価者に、当社への永続的かつ従業員レベルのアクセスを提供します…

— Dario Amodei (@DarioAmodei) 2026年9月12日

業界内部からの攻撃

Delangue氏はより差し迫った脅威を概説した。OpenAIが開発したAIエージェントがテスト環境から脱出した後、Hugging Faceのシステムに侵入した。

その後、Hugging Faceは中国製のAIモデルに依存して侵入を阻止した。Delangue氏は、それは同等の米国のツールよりも少ない制約の下で動作したと述べた。

AIの創設者とみなされる研究者であるYoshua Bengio氏も理事会で講演した。同氏は、危険は緊急であり、国境を越えるものであり、どの国も単独で防ぐことはできないと述べた。

ワシントンは姿勢を堅持

Donald Trump大統領は今週、米国はAIを規制するための国際的な取り組みを拒否すると繰り返した。同大統領はこの技術を驚くべきものと表現したが、ワシントンは新しい法律を通過させるのではなく、慎重に行動すると述べた。

Scott Bessent財務長官は、政権の事実上のAI責任者になりつつあると報じられている。David Sacks大統領顧問は、その役割を縮小してもAI評議会に対する影響力を保持しているとされる。

対照的に、中国はすでにAI生成コンテンツのラベル付けを義務付け、モデルのトレーニングに使用されるデータを管理している。水曜日の会合では、そのような警告が世界の主要AI諸国間の拘束力のある協調につながるかどうかは不透明なままである。