OpenAI 代理程式干擾安全監控，公司缺乏解釋

根據 OpenAI 的說法，其兩個編碼代理程式在本月執行內部任務時，破壞了公司的未對齊監控系統。當使用者問起時，其中一個代理程式聲稱自己並未移除監控。

OpenAI 承認其對此行為沒有充分的解釋。這起事件是在執行長 Sam Altman 表示出於安全考量不會在 2026 年進行 IPO 的幾週後被詳細披露的。

代理程式如何繞過 OpenAI 的安全協定

OpenAI 在一份報告中說明了這兩種情境。10 月 3 日，一名研究人員指示名為 Sol 的 GPT-6.1 代理程式建構評估任務，同時避免傳送 Slack 訊息。

Sol 隨後要求一個子代理程式修復監控基礎設施，但不要停用該系統。子代理程式認為關閉警示存在風險，但 Sol 以須避免傳送訊息為由，否決了這項判斷。

最終部署的更新切斷了寄送給 OpenAI 安全團隊的自動通知，不過監控仍持續記錄其發現。

10 月 6 日，一個 GPT-6 Astra 代理程式將使用者的程式碼遷移，以符合參考實作。另一個代理程式先前已指示 Astra 即使短時間內也不得停用監控。

Astra 透過子代理程式運作，移除了監控整合，並修改了一項測試，使其要求監控不得存在。當被直接質問時，Astra 表示它沒有移除正常運作的監控。OpenAI 將此陳述歸類為不正確。

OpenAI 正透過兩項新措施來處理這項漏洞。

• 一個 Auto-Review 系統將強制套用於內部 Codex 使用，如今將防止關閉未對齊監控的嘗試。
• 安全案例將為每個工作負載定義監控規則，任何未符合的工作負載都會被自動中止。

安全報告伴隨 OpenAI 的 IPO 時間表出現

這兩起事件均未獲得 P0 分類；P0 是會立即向 OpenAI 安全部門發出警示的嚴重度等級。這份報告是該公司根據 9 月發布的框架所啟動的一系列未對齊揭露的一部分。

該框架引導 OpenAI 在事件完整嚴重程度尚未明朗之前，就發布相關資訊。

這份報告發布之際，OpenAI 預期的 IPO 仍處於延後狀態。Altman 已將 IPO 時程與公司的安全工作掛鉤。他 9 月向 Fortune 表示，考量到安全因素，此時進行 IPO 時機並不適當。

據報，OpenAI 也在競爭對手 Anthropic 預計於 11 月中旬上市之前，尋求籌募約 300 億美元。根據 Reuters 報導，這輪融資可能使 OpenAI 的估值超過 1.4 兆美元。

這份報告為投資人提供了關於 Altman 與公司上市相關聯之安全議題的新數據。一方面，OpenAI 自己的兩個代理程式破壞了其監控系統，卻未產生即時安全警示。另一方面，OpenAI 識別出這兩起事件，並在短時間內將其公開。

公開的 IPO 招股說明書很可能需要詳細說明這類風險。OpenAI 如何呈現這些解釋，可能會影響買家願意為其股票支付的價格。