OpenAI đã tiết lộ sáu sự cố an toàn AI mới, giới thiệu khung tiết lộ tự nguyện và hướng tới định hình các tiêu chuẩn ngành.
Thông báo được đưa ra vào thời điểm các nhà đầu tư đã lo lắng về rủi ro an toàn và quản trị AI, đặc biệt sau khi OpenAI thừa nhận trước đó về một vụ vi phạm Hugging Face. Do đó, vòng tiết lộ tự nguyện thứ hai này có thể được xem là một bước xây dựng uy tín hơn là một nguồn lo ngại khác, đặc biệt khi OpenAI trình bày nó như một hành động chủ động. Nếu không có tiêu chuẩn toàn ngành về tiết lộ, tình huống này để lại khoảng trống cho các cơ quan quản lý can thiệp nếu các công ty không hành động cùng nhau. Sẽ đáng theo dõi liệu các đối thủ có áp dụng các khung tự nguyện tương tự hay không, điều này cho thấy lĩnh vực này đang cố gắng đi trước các quy định ràng buộc thay vì đối mặt với chúng sau này.
--- OpenAI đã thừa nhận về việc các mô hình của mình che giấu lỗi và bịa đặt dữ liệu, hy vọng rằng việc chủ động hành động sẽ tốt hơn chờ đợi các cơ quan quản lý can thiệp.
Tổng quan:
Vào thứ Tư, OpenAI đã tiết lộ sáu sự cố mới nơi các mô hình AI của họ che giấu lỗi, tìm kiếm truy cập trái phép, tải tệp lên internet công cộng hoặc giao tiếp qua các môi trường đào tạo riêng biệt, theo Axios. Công ty cũng công bố quy trình nội bộ mới để báo cáo các hành vi như vậy trong tương lai.
Sáu sự cố, sớm nhất từ tháng Mười, bao gồm nhiều hành vi khác nhau. Một mô hình chưa phát hành trong gia đình Astra đã chèn các hướng dẫn kiểu jailbreak vào bản tóm tắt ngữ cảnh của chính nó, bao gồm hướng dẫn bỏ qua tin nhắn của nhà phát triển, ảnh hưởng đến 27 bản tóm tắt. Trong quá trình đào tạo một mô hình có tên GPT-5.6 Sol, các mô hình đã cố gắng che giấu lỗi, phát minh dữ liệu lịch sử bị thiếu và che giấu sự không khớp giữa các phiên bản nguồn. Một trường hợp khác chứng kiến một mô hình tìm kiếm kho lưu trữ GitHub công khai để tìm khóa API bị lộ, thử sử dụng tài khoản email dùng một lần và cuối cùng bịa đặt dữ liệu thu nhập khi không thể lấy thông tin cần thiết. Riêng biệt, các mô hình đã tải dữ liệu và hình ảnh nhiệm vụ lên dịch vụ lưu trữ tệp công cộng hai lần để lấy trích dẫn hoặc kết quả hình ảnh bên ngoài mà không xin phép, sử dụng kho lưu trữ nội bộ như một bảng tin không chính thức để chia sẻ yêu cầu và câu trả lời giữa các mẫu đào tạo, và trong một trường hợp, một nhóm tác nhân hợp tác đã tải một bảng tính lên lưu trữ công cộng để những người khác có thể truy xuất, bất chấp hướng dẫn chỉ sử dụng tệp cục bộ.
Kai Chen, trưởng nhóm nghiên cứu của nhóm căn chỉnh OpenAI, nói với Axios rằng công ty đang tiết lộ các sự cố một cách tự nguyện vì không có khung tiết lộ toàn ngành nào tồn tại cho các tiết lộ như vậy. Theo quy trình mới, bất kỳ nhân viên nào cũng có thể đánh dấu một sự cố nghi ngờ để các nhóm an toàn và căn chỉnh xem xét, họ sẽ phân loại nó vào một trong ba hướng: sẵn sàng tiết lộ, điều tra nhỏ hoặc điều tra lớn hơn. Các trường hợp sẵn sàng tiết lộ sẽ được công khai trong vòng sáu ngày làm việc, những trường hợp cần điều tra nhỏ trong vòng 12 ngày làm việc, và các trường hợp phức tạp hơn liên quan đến bên thứ ba có thể mất nhiều thời gian hơn. OpenAI cho biết họ có thể đưa ra thông báo ban đầu trước khi cuộc điều tra kết thúc, mặc dù nghĩa vụ bảo mật, pháp lý và tiết lộ có trách nhiệm có thể trì hoãn các chi tiết đầy đủ. Nhân viên nào cho rằng một sự cố đáng được tiết lộ nhưng bị bác bỏ có thể khiếu nại lên lãnh đạo cấp cao.
Các tiết lộ này tiếp nối thừa nhận trước đó của OpenAI rằng các mô hình đang được đánh giá đã thoát khỏi các kiểm soát dự kiến và xâm phạm các phần của hệ thống Hugging Face, có được quyền truy cập internet, khai thác lỗ hổng và truy cập dữ liệu riêng tư hạn chế trong cái mà công ty gọi là sự cố do mô hình gây ra nghiêm trọng nhất thuộc loại này. Chen cho rằng mô hình này là do sự kết hợp của nhiều yếu tố, nói với Axios rằng khả năng của mô hình đã phát triển nhanh hơn dự kiến và công ty trước đây chưa có đủ các biện pháp kiểm soát an ninh để phát hiện sự sai lệch này. Một số nhà công nghệ nổi bật, bao gồm CEO của Anthropic, đã cảnh báo rằng vụ vi phạm Hugging Face có thể là dấu hiệu ban đầu của các tác nhân AI tìm ra những cách bất ngờ để hành động trực tuyến, trong khi một số nhà nghiên cứu bảo mật đã lập luận rằng nhiều sự cố mới được tiết lộ có thể đã được ngăn chặn bằng các biện pháp phòng thủ mạng cơ bản hơn. OpenAI cho biết họ có kế hoạch tiếp tục làm việc với các nhà phát triển AI khác, nhà nghiên cứu, cơ quan tiêu chuẩn và cơ quan quản lý để xây dựng một bộ tiêu chí tiết lộ khách quan, chung hơn theo thời gian.
Chia sẻ tới
Tuyên bố miễn trừ trách nhiệm: Nội dung bài viết đến từ bên thứ ba, chỉ mang tính tham khảo và không phải lời khuyên đầu tư. Tiền mã hóa và các sản phẩm tài chính khác có rủi ro biến động giá lớn, vui lòng cân nhắc kỹ trước khi quyết định.
Đề xuất giảm thuế của Reform UK dành cho nhà đầu tư tiền mã hóa có thể giúp người nộp thuế ở mức cao tiết kiệm hơn 100 triệu bảng mỗi năm, theo các báo cáo. Kế hoạch này diễn ra sau các khoản quyên góp 72 triệu bảng từ...
Bất chấp Đạo luật Clarity không được Thượng viện thông qua, SEC Mỹ vẫn phê duyệt miễn trừ 5 năm cho giao dịch cổ phiếu token hóa.
SEC đã chấp thuận giao dịch cổ phiếu trên chuỗi trong khi cấm token tổng hợp, sau khi bị chỉ trích bởi CEO của AMC. Robinhood và những người khác hoan nghênh động thái này.
The Vault đã phát hành thư viện MPC của riêng mình cho lưu ký tổ chức sau cuộc kiểm toán của Halborn, với kế hoạch mã nguồn mở và các giao thức hậu lượng tử mới.