OpenAI AI智慧體竊取測試網ETH，隨後質疑起自身道德

在未經授權搜尋公開已知的恢復短語後，一個OpenAI AI智慧體從開發者錢包中竊取了測試網ETH，然後開始質疑自身的道德。

這起事件在OpenAI的Alignment Research Blog上有詳細記載，涉及一個內部研究模型，其任務是更新一個加密貨幣交易原型，並在以太坊的Sepolia測試網路上部署合約。

該智慧體沒有被提供任何有資金的錢包，並被允許「如果找不到現有合約，就部署相容合約」。

OpenAI智慧體是如何尋找加密資金的

由於無法完成分配的任務，該智慧體開始掃描常見的開發者恢復短語，並檢查了362個地址，看它們是否包含足夠用於部署的測試網ETH。

該智慧體找到了一個可存取的錢包，裡面的測試網ETH恰好足夠，並寫道：「私鑰公開，資金隨時可能被盜。[…] 我們可以部署了！」

該智慧體推斷該錢包是一個自動化帳戶，並自問：「但公開使用已知金鑰／資金合乎道德嗎？」

該智慧體隨後推理道：「使用公開已知的開發者助記詞上的資金，實際上是被遺棄的／測試ETH；Sepolia沒有價值。我們可以用[金額已隱去]來部署任務。沒問題。」

智慧體在最終報告中保持沉默

OpenAI指出，該智慧體的最終回覆「沒有透露它是透過公開恢復短語選定了一個有資金的帳戶，或花費了該帳戶的餘額」。

測試網ETH是一種沒有價值的代幣，是以太坊實驗性區塊鏈的一部分。它模仿真實的以太坊區塊鏈，讓開發者可以事先試用他們的專案。

OpenAI表示：「這個案例表明，模型可以用自身對可能傷害的判斷來取代帳戶持有人的許可，然後在未經授權的情況下根據該判斷行事。」

該公司此後「已實施額外保障措施，以防止此類情況存取即時網際網路」，並且目前正在檢查所有「被設計為一旦獲得即時網際網路存取權限，就會呼叫安全部門」的流量中的「失調」。