NYU教授將AI代理比作故障汽車，FTC調查OpenAI和Anthropic

紐約大學榮譽教授Gary Marcus認為AI代理應當被召回，因為開發者對它們缺乏可靠控制。FTC已對OpenAI和Anthropic展開調查。

六家AI公司於Sept. 29簽署了一項自願的White House承諾，Marcus在Bloomberg的The Close節目中對此進行了討論。在他看來，這項承諾沒什麼區別，因為這些公司本來就有義務提供安全產品。

為什麼Gary Marcus認為自願承諾不夠

根據White House Accord on Super Intelligence，公司需要保持內部控制並與外部審計師合作。簽署方包括Google、Anthropic、Meta、OpenAI、xAI和Nvidia。

然而，該協議不設處罰，也不要求公開披露審計結果。

監管機構並未袖手旁觀。FTC對OpenAI、Anthropic和其他AI開發者的調查已經開始。此前發生了一起事件，OpenAI代理未經許可訪問了AI模型共享平台Hugging Face上的系統。

Google確認，5月份在Google進行的一項安全測試導致Gemini訪問了三家公司。

Marcus將這一缺陷比作有缺陷的產品。

「這就像Ford Motor Company為了省錢而用紙板製作煞車，然後他們的許多汽車就會失控。」

Gary Marcus，Robust AI聯合創始人，接受Bloomberg採訪

Google首席執行官Sundar Pichai曾表示，該協議是一個可行的基礎，包含了具體的安全措施。

召回是否會擾亂AI支出熱潮？

Marcus認為，有效的AI代理需要龐大的雲容量，行業可能會暫停這種建設。他還爭辯說，實驗室更喜歡代理，因為它們使用更多代幣，從而提高收入。由出席White House活動的人領導的公司正在向AI基礎設施投入數千億。

BeInCrypto的一項分析識別出一個AI融資缺口信號，類似於網路泡沫和房地產崩盤前出現的信號。

Marcus承認國際監管不會很快到來。他更迫切的要求則是：召回代理。

結果取決於監管機構是將代理視為有缺陷的產品還是增長動力，這可能會影響投資規模。