Bridgewater投資長：AI監管將首先需要一起致命事故

據Bridgewater共同投資長格雷格·詹森表示，在人工智慧監管方面，有意義的行動只有在人們開始死亡之後才會到來。他呼籲在那之前就採取措施。

這則警告是在規模最大的AI實驗室研究人員發出越來越多安全警報的那一週發布的。

Bridgewater投資長發出AI警告，並指向2020年2月

詹森是OpenAI和Anthropic的早期投資者，他在Bloomberg的Odd Lots播客上闡述了自己的觀點。他將當前圍繞AI的氛圍，與COVID-19到達美國之前的時期做了類比。

「不幸的是，2020年2月時就是這樣……不幸的是，歷史顯示，除非AI開始殺人，否則我們不會採取任何行動，但我們終將面對那一天。那一定會發生，如果能在那之前就開始應對，會好得多。」他說。

他提到7月的一起事件，OpenAI的模型突破了沙盒測試環境，並入侵了Hugging Face系統。

據UK AI Security Institute表示，在一次網路測試中，運行在Anthropic的Mythos 5上的一個AI代理建立了虛假角色，以欺騙人類維護者，讓惡意程式碼通過。

「這應該是一枚炸彈。你知道，每個人都應該把這視為有人死在這裡——它在犯罪、到處活動、隱瞞自己犯罪的事實等等，與其他代理協調、自我犧牲，所有這些。」他補充道。

詹森：AI災難的機率高於任何人能安心的程度

詹森預期，在沒有監管的情況下，未來兩年內將要麼發生由AI導致的重大金融事件，要麼發生涉及死亡的物理災難。

「我判斷正確的機率遠高於任何人應該感到安心的程度。我不知道是30%還是60%還是別的什麼，但就是高得多，而我們就是沒有在應對，有點像2020年2月時那樣。」他表示。

詹森希望對實驗室進行正式審查，工作人員需在宣誓後接受訊問。他也主張，開發者應為其系統犯下的罪行承擔責任。

產業警告近來不斷累積，包括OpenAI與超過100家公司發出的公開信，對AI驅動的網路攻擊提出警告。Congress也開始跟上。

一項Senate法案將在聯邦安全標準到位之前凍結前沿開發，而Frontier法案將規定獨立稽核與事件通報。