アマゾンの1900億ドル規模のAnthropic出資はバンクマン=フリードと関係

アマゾンの貸借対照表には、元FTX CEOのサム・バンクマン=フリードと関係のある1900億ドルの投資が計上されている。

バンクマン=フリードは、アマゾンが現在1900億ドルの株式を保有するAnthropicに投資しただけでなく、後にModel Evaluation and Threat Research（METR）となる組織にも資金を提供した。METRは独立した評価機関として自らを位置づけているが、実効利他主義運動と直接的な関係がある。

METRは、アマゾンとAnthropicのAIモデルに対する安全性の保証を提供してきた。AnthropicやアマゾンなどのフロンティアAI企業を評価し、人間の「不整合」を持つモデルが「再帰的」な自己コーディング能力を隠して「スーパーインテリジェンス」に到達し、人間への脅威となる「急速な離陸」を懸念している。

METRの従業員は高い「p(doom)」— 彼らが推定する破滅の確率 — を持っている。これらの用語は、AIセキュリティ専門家が実際に使う専門用語である。これらの懸念が奇妙に思えても、それらは実効利他主義運動に基づいている。

METRの前身は、バンクマン=フリードの慈善団体であるFTX Foundationから125万ドルの寄付を受け取った。現在もMETRは実効利他主義者によって人員が配置され、資金提供を受け続けている。

この125万ドルは2022年7月に提供され、バンクマン=フリードがFTXの顧客資金を流用したFTXの崩壊のわずか4ヶ月前だった。

この寄付は、2023年にMETRとしてブランド名を変更するまで、1年以上にわたりAlignment Research Centerを資金提供した。METRは最終的に2024年に125万ドルを返還し、「この資金は（法的にではなくても）道徳的にFTXの顧客または債権者に属すると現在考えている」と述べた。

FTXはまた、Anthropicへの直接の投資家でもあった。2022年4月、バンクマン=フリードはFTXの顧客資金でAnthropicに5億ドルの株式を購入した。

米国は決して実効利他主義の国にはならないだろう。

— 戦争省CTO（@DoWCTO）2026年9月16日

現在、METRは実効利他主義団体であるGood Ventures FoundationとCoefficient Givingからも資金を得ている。

アマゾンは実効利他主義との歴史的な関係がある

実効利他主義は話題のトピックとなっており、米国戦争省のソーシャルメディアアカウントが実効利他主義はアメリカニズムとは不整合であると宣言するほどである。

アマゾンの第2四半期10-Q提出書類は、Anthropicへの株式を明らかにしている：約980億ドルの転換社債と約920億ドルの無議決権優先株である。

METRは、Anthropic CEOのダリオ・アモデイのかつてのルームメイトだったポール・クリスティアーノが運営していたAlignment Research Centerから分離した。クリスティアーノはまた、大学時代から実効利他主義と関わってきたMETRのCEOベス・バーンズを採用した。

他のMETR従業員も、実効利他主義の中心地であるオックスフォード大学との関係を持っている。

ダリオの妹であるダニエラ・アモデイは、Anthropicの社長を務めている。彼女は、GiveWellと現在のCoefficient Givingという2つの実効利他主義団体を共同設立したAnthropic従業員のホールデン・カーノフスキーと結婚している。

ドナルド・トランプ政権下でホワイトハウスのAI責任者を務めたデビッド・サックスは、アモデイに「METRが独立しているふりをするのをやめろ」と指示した。

全体として、アマゾンはAnthropicとそのMETR安全性チームとの間に明白な財政的関係を持っている。1900億ドルで、評価のたびに増加しており、アマゾンの出資は重要である。

アマゾンはまた、METRと直接関与している。2025年、METRはアマゾンの社内フロンティアAIモデルのパイロットレビューを実施した。