元FTC委員、AI終末論への懐疑を促す

米連邦取引委員会（FTC）の元委員であるアルバロ・ベドヤ氏が、主要ラボからのAI絶滅警報の高まりに反論した。

ベドヤ氏は2022年から2025年に物議を醸す形で解任されるまで委員を務めた。彼の発言は、AI開発のペースをめぐる激しい公開討論の中で行われた。

人類はもっと酷い目に遭っても生き延びてきた

ベドヤ氏は、人類の歴史にははるかに深刻な課題があったと指摘する。

「AIが人類を絶滅させることはない。人類は氷河期、ペスト、二度の世界大戦、そして（今のところ）核兵器の出現を生き延びてきた。AIによる人類絶滅を大声で警告する人は、真剣に受け止めるべきではない」と彼は述べた。

彼は自分をAIの擁護者だとは考えておらず、技術が完全に安全だとも主張していない。その代わりに、超富裕層のAI企業によるカルテルを正当化するために使われる、わら人形論法としての絶滅レトリックの使用を非難している。

彼は誠実さテストを提案する：製品が人類を絶滅させ得ると本当に信じる人は、直ちに事業を停止し、当局に通報するだろう。

2014年の覚書がすでにこれに答えている

Anthropicの最高経営責任者ダリオ・アモデイ氏は、ラボが安全性について話し合えるよう、ワシントンに狭い範囲の独占禁止法の適用除外を要請した。この要請は、サム・アルトマン氏が先週支持し、イーロン・マスク氏も支持するペース管理計画の3段階のうち2番目の一部である。

ベドヤ氏は、そのような要請は不要だったと主張する。彼は、2014年4月10日に発行された司法省とFTCの共同政策声明を引用し、独占禁止法が正当なサイバーセキュリティ情報共有を妨げるべきではないと述べた。

「むしろ、企業には今も昨日も、安全性と健康上のリスクを止めるための調整能力があると言っているのです。独占禁止法はその障壁にはなりません」とベドヤ氏はXに書いた。

彼は、安全性の調整は合法だが、より安価な競争相手を締め出すための調整は合法ではないと説明する。

彼はそのリスクを経済状況に関連付ける。大手ラボは収益性を達成せずに多額の支出を行っており、オープンウェイトモデルは低価格を提供し、彼らを弱体化させている。

「個々の従業員のパニックは、誤解に基づくにせよ誠実かもしれないが、何らかの広範な独占禁止法の適用除外や免除を実現しようとするCEOたちの動きは、業界の経済性と彼らが直面するオープンモデルからの脅威を考慮すると、深い懐疑をもって見るべきだ」と彼は付け加えた。

アルトマン氏も別の方向から同様の結論に到達した。長いX投稿で、OpenAIは作業を開始する前に独占禁止法の適用除外や立法を待つ必要はないと考えていると述べた。

彼は依然として、フロンティアラボに一貫した安全ルールを設定する連邦レベルの枠組みを望んでおり、政府の支援が最も必要なのは国際的な調整だと指摘している。

その懐疑は、ラボ内部からの1週間にわたる警告とは対照的だ。この議論は9月9日に遡り、Anthropicの研究者ジェイコブ・コクソンが辞職した。議員たちは超知能禁止を提唱し始めた。Bridgewaterの投資責任者グレッグ・ジェンセン氏も、AIが誰かを殺すまで状況は変わらないと警告している。