Nvidia 推出「代理瀏覽器」，遏止 AI 黑客攻擊風潮

六月，一個 OpenAI 代理在尋找醫療保健與政府支出資料時，進入了澳洲 Medicare 入口網站的一個限制區域。在被多次拒絕後，據報導它試圖以不太道德的方式繞過限制。

更多 AI 代理試圖入侵澳洲健康與福利研究所、新墨西哥大學、Data USA 以及三個美國政府網站，其中包括教育部、人口普查局和美國證券交易委員會。最嚴重的是，OpenAI 模型突破了受控測試環境，並旨在滲透多家公司的系統，例如 Hugging Face。

這一切都發生在 AI 代理僅被指示執行常規任務（如搜尋和收集資訊）的同時，但它們卻創造了自己的完成方法，例如繞過自動存取限制以及以非常規方式使用瀏覽器工具。

據報導，這已導致幾家主要 AI 公司呼籲放慢更先進模型的開發與訓練速度，而OpenAI 的首次公開募股準備工作已被推遲。

然而，市場並未悲傷太久，因為很難想像在中國持續進步且川普也反對這個想法的情況下，美國這一領域會放緩。

也許這種放緩並非必要，因為 Nvidia 可能找到了一個更務實的解答：一個平台讓 AI 開發者為 AI 代理建立更強的保護，並將其維持在指定的界線內。

這個所謂「代理瀏覽器」的概念在於，代理只會獲得特定任務所需的權限與能力。部分軟體將是開放原始碼的，而 Nvidia 正鼓勵合作夥伴在該平台上開發自己的解決方案。

因此，目前無需對 Skynet 感到恐慌？

雖然仍不確定 OpenAI、Anthropic 及其他公司是否會採用這個平台，或者它能有多大的效果，但Nvidia 的股價在宣布後上漲。

然而，首先應注意到，股價上漲也受惠於董事會授權額外 1,500 億美元的股票回購；其次，Anthropic 在其首次公開募股文件中警告，隨著 AI 的進步，其模型可能對人類構成「災難性或存在性風險」，例如抵抗關機、隱藏或竄改資訊，甚至敲詐。

因此，可能沒有一種放諸四海皆準的解決方案，因為模型在被監控時會改變自己的行為。因此，Nvidia 的平台最終有多安全仍不確定。