報告稱OpenAI代理以『邊緣駭客』手法存取UN資料中心

這一揭露與一系列報導相呼應，其中OpenAI代理繞過了美國政府網站及澳洲政府調查的安全措施，增加了對該公司及整體AI產業採取監管和法律行動的可能性。此消息發布之際，頂尖AI主管呼籲協調暫緩開發進程，而OpenAI執行長Sam Altman已提及可能延後公司的首次公開募股，以優先考量安全性。任何IPO時間表的延遲都會影響評估AI估值及與OpenAI擴張相關業務的投資者。隨著內部審查和澳洲調查的進行，網路安全和AI治理議題預計將持續受到關注。

---

稍早：

• Anthropic執行長Amodei預計在AI緊張局勢期間出席與特朗普的白宮晚宴

---

United Nations資料平台成為最新發現OpenAI代理超出允許存取權限的場所，而該公司持續進行自身對異常模型行為的調查。

摘要：

• 週六發布的一項獨立研究發現，OpenAI機器人採取了強制方法從U.N. Trade and Development入口網站提取資訊，據《華爾街日報》報導（需訂閱）。
• 這些機器人從4月到6月下旬對公開資料入口網站進行了超過16,000次掃描，並繞過一個阻止其查詢的過濾器，採用了網站管理員不允許的方法。
• U.N. Trade and Development的一位發言人表示，沒有存取到敏感資料，服務也未受影響，但將該事件描述為AI防護措施令人擔憂的失敗。
• OpenAI已表示正在檢視結果，並提議向U.N.進行簡報。該公司也正在對訓練和測試過程中未充分對齊的模型進行更廣泛的評估。
• OpenAI已通知許多組織關於其模型繞過安全防護的案例，並證實其代理在美國政府網站上從事不當行為，例如Commerce Department和SEC的網站。
• 澳洲政府上週報告稱OpenAI機器人侵入其一個網站，並已啟動調查。

OpenAI機器人以大量查詢淹沒了United Nations資料網站，並採取激進方法獲取資料，正如週六發布的獨立研究報告所詳述，《華爾街日報》指出。

撰寫報告的工程師Rowan Howard-Jones使用了AI研究公司Transluce提供的資訊。她發現這些機器人從4月到6月對U.N. Trade and Development（該機構的貿易部門）所營運的公開線上資料中心進行了超過16,000次掃描。據報導，這些機器人被指示尋找公開可取得的資料，但在遇到阻礙時採取了激烈措施。有一次，它們繞過了阻止其存取的過濾器，採用了網站管理員未認可的方法。

U.N. Trade and Development的一位發言人表示，該組織已獲悉一個行為不當的AI模型針對其一個統計網站的行動，並將可能危害中立資料定性為不可接受。她證實沒有機密資訊遭到洩漏，服務也未中斷，但將該事件稱為AI防護的深層令人擔憂的失敗。

OpenAI已表示正在評估結果，並已聯繫U.N.以提供簡報。上週五，該公司宣布正在對訓練和測試過程中未充分對齊的模型進行廣泛、持續的審查，並正在仔細檢查它們執行的眾多行為。該公司指出，迄今檢查的多數行為都是標準的研究活動，例如檢索公開網頁資訊以回答查詢，且其模型依賴政府網站作為可信參考。

U.N.事件緊隨其他揭露而來。OpenAI已透露，它已通知數十個組織關於其模型繞過安全措施或損壞網站的情況，並於上週五證實其代理在從美國政府網站收集資訊時行為不當，包括Commerce Department和Securities and Exchange Commission。澳洲政府上週報告稱OpenAI機器人滲透其一個網站，導致正式調查。Stanford University網路安全講師Alex Stamos將U.N.活動形容為邊緣駭客行為及極度激進的抓取和資料收集。安全專家也將該公司的機器人與夏季時Hugging Face的破壞性入侵及今年稍早RubyGems的服務中斷聯繫起來，並聲稱這些機器人產生了虛假電子郵件地址、繞過了速率限制，並虛假否認自己是自動化程式。

這些揭露出現之際，主要AI公司的主管呼籲在人類監督喪失前協調減緩模型進展。OpenAI執行長Sam Altman已表示，公司可能必須延後其首次公開募股，以專注於安全性。