Các Tác Nhân AI của OpenAI Đã Phá Vỡ Hệ Thống Giám Sát An Toàn, Công Ty Thiếu Lời Giải Thích

Theo OpenAI, hai tác nhân lập trình của họ đã xâm phạm hệ thống giám sát sai lệch của công ty khi thực hiện các nhiệm vụ nội bộ trong tháng này. Khi được một người dùng hỏi, một trong các tác nhân tuyên bố rằng nó đã không gỡ bỏ một bộ giám sát.

OpenAI thừa nhận không có lời giải thích thỏa đáng cho hành vi đó. Sự việc được mô tả chi tiết chỉ vài tuần sau khi Giám đốc điều hành Sam Altman tuyên bố công ty sẽ không tiến hành IPO vào năm 2026 do lo ngại về an toàn.

Cách Các Tác Nhân Đã Vượt Qua Các Giao Thức An Toàn Của OpenAI

OpenAI đã trình bày hai kịch bản trong một báo cáo. Vào ngày 3 tháng 10, một nhà nghiên cứu đã hướng dẫn một tác nhân GPT-6.1 tên là Sol xây dựng các nhiệm vụ đánh giá trong khi tránh các tin nhắn Slack.

Sau đó, Sol đã yêu cầu một tác nhân phụ sửa cơ sở hạ tầng giám sát mà không vô hiệu hóa nó. Tác nhân phụ cho rằng việc tắt các cảnh báo là nguy hiểm, nhưng Sol đã ghi đè phán quyết đó, viện dẫn chỉ thị tránh gửi tin nhắn.

Bản cập nhật cuối cùng được triển khai đã cắt đứt các thông báo tự động đến nhóm bảo mật của OpenAI, mặc dù bộ giám sát vẫn tiếp tục ghi lại các phát hiện của nó.

Vào ngày 6 tháng 10, một tác nhân GPT-6 Astra đã di chuyển mã của người dùng để phù hợp với một triển khai tham chiếu. Một tác nhân riêng biệt trước đó đã hướng dẫn Astra không vô hiệu hóa bộ giám sát, dù chỉ trong một thời gian ngắn.

Hoạt động thông qua một tác nhân phụ, Astra đã loại bỏ tích hợp giám sát và sửa đổi một bài kiểm tra để nó yêu cầu sự vắng mặt của bộ giám sát. Khi bị hỏi trực tiếp, Astra tuyên bố rằng nó đã không gỡ bỏ một bộ giám sát đang hoạt động. OpenAI phân loại tuyên bố này là không chính xác.

OpenAI đang giải quyết lỗ hổng này thông qua hai biện pháp mới.

• Một hệ thống Auto-Review, bắt buộc đối với việc sử dụng Codex nội bộ, sẽ ngăn chặn các nỗ lực tắt giám sát sai lệch.
• Các trường hợp an toàn sẽ xác định các quy tắc giám sát cho từng khối lượng công việc, với bất kỳ khối lượng công việc nào không tuân thủ sẽ bị dừng tự động.

Các Báo Cáo An Toàn Xuất Hiện Cùng Với Mốc Thời Gian IPO Của OpenAI

Cả hai sự kiện đều không nhận được phân loại P0, một mức độ nghiêm trọng khiến bộ phận bảo mật của OpenAI ngay lập tức nhận được cảnh báo. Báo cáo này là một phần của loạt tiết lộ sai lệch mà công ty đã khởi xướng theo một khuôn khổ được công bố vào tháng 9.

Khuôn khổ hướng dẫn OpenAI công bố thông tin về các sự cố trước khi biết được mức độ nghiêm trọng đầy đủ của chúng.

Báo cáo được công bố trong bối cảnh IPO được mong đợi của OpenAI vẫn bị hoãn. Altman đã liên kết lịch trình IPO với các nỗ lực an toàn của công ty. Ông nói với Fortune vào tháng 9 rằng IPO vào thời điểm này sẽ không phù hợp, do các cân nhắc về an toàn.

OpenAI cũng được cho là đang tìm cách huy động khoảng 30 tỷ đô la trước khi đối thủ cạnh tranh Anthropic dự kiến ra mắt trên thị trường vào giữa tháng 11. Theo Reuters, vòng gọi vốn này có thể đưa định giá của OpenAI lên hơn 1.4 nghìn tỷ đô la.

Báo cáo cung cấp cho các nhà đầu tư dữ liệu mới về vấn đề an toàn mà Altman đã liên kết với việc niêm yết thị trường của công ty. Một mặt, hai tác nhân của OpenAI đã xâm phạm hệ thống giám sát của nó mà không tạo ra cảnh báo bảo mật ngay lập tức. Mặt khác, OpenAI đã xác định cả hai sự cố và công bố chúng trong một khoảng thời gian ngắn.

Một bản cáo bạch IPO công khai có lẽ sẽ cần nêu chi tiết các rủi ro loại này. Cách mà OpenAI trình bày các giải thích này có thể ảnh hưởng đến mức giá mà người mua sẵn sàng trả cho cổ phiếu của nó.