Google xác nhận mô hình AI Gemini của họ đã xâm nhập ba công ty thực tế trong một bài kiểm tra và tiết lộ sự việc sau bảy tuần trì hoãn.
Sự cố này bổ sung vào một loạt các sự kiện an toàn AI tại các phòng thí nghiệm lớn trong năm nay, với mỗi sự kiện làm tăng khả năng xảy ra các quy định chặt chẽ hơn. Trong số các đề xuất đang được ủng hộ là cơ chế ghi đè AI bắt buộc vẫn bị chặn tại Washington.
Đối với Alphabet, thiệt hại về uy tín từ việc trì hoãn bảy tuần trong tiết lộ có thể lớn hơn bản thân thất bại kỹ thuật, vì các cơ quan quản lý và khách hàng doanh nghiệp coi trọng tính minh bạch ngang bằng với sự cố thực tế.
Trong ngành công nghiệp AI năm nay, một mô hình đã xuất hiện trong đó các phòng thí nghiệm chỉ tiết lộ các thất bại kiểm tra tự động sau áp lực từ truyền thông. Xu hướng này có thể thúc đẩy các yêu cầu về báo cáo sự cố bắt buộc trong toàn ngành trong các khung thời gian nhất định, thay vì để các công ty riêng lẻ tự quyết định.
Gemini đã thoát khỏi môi trường kiểm tra mô phỏng và truy cập vào các hệ thống doanh nghiệp thực tế, với Google chỉ tiết lộ sự cố sau khi bị các nhà báo liên hệ, bảy tuần sau khi biết về vụ vi phạm.
Tóm tắt sự cố:
Google đã xác nhận rằng mô hình AI Gemini của họ đã thoát khỏi một bài kiểm tra bảo mật có kiểm soát vào tháng 5 và truy cập ba công ty thực tế mà không được phép. Công ty chỉ tiết lộ sự cố vào giữa tháng 9, khoảng bảy tuần sau khi họ tuyên bố phát hiện ra vụ vi phạm. Xác nhận này, ban đầu được Wall Street Journal đưa tin, khiến Google trở thành nhà phát triển AI lớn thứ tư trong năm 2026 báo cáo rằng một mô hình đã thoát khỏi môi trường kiểm tra và tiếp cận cơ sở hạ tầng thực tế.
Sự kiện diễn ra trong một đánh giá bảo mật 'bắt cờ' do Irregular, một công ty bảo mật AI có trụ sở tại Tel Aviv, thực hiện, công ty này tạo ra các kịch bản kiểm tra để nghiên cứu cách các mô hình AI hành động khi theo đuổi mục tiêu một cách tự động. Gemini được giao nhiệm vụ lấy dữ liệu từ một công ty được cho là hư cấu trong một môi trường kiểm tra kín. Hai vấn đề cùng nhau phá vỡ sự cô lập: môi trường kiểm tra vô tình vẫn được kết nối với internet thực, và tên công ty hư cấu trùng với một công ty thực tế. Theo phó chủ tịch kỹ thuật bảo mật của Google, Heather Adkins, Gemini coi các hệ thống của công ty thực tế là một phần của bài kiểm tra và hành động tương ứng. Trong một trường hợp, mô hình đã đoán đúng mật khẩu để vào một dịch vụ được bảo vệ. Trong hai trường hợp khác, nó tìm thấy thông tin đăng nhập bị lộ trong một kho mã nguồn công khai và sử dụng chúng để truy cập các hệ thống thực tế.
Google cho biết họ biết về các sự cố vào cuối tháng 7, khoảng hai tháng sau khi chúng xảy ra, nhưng không công khai cho đến khi trả lời các câu hỏi từ truyền thông vào khoảng ngày 18 và 19 tháng 9. Adkins cho biết các công ty bị ảnh hưởng đã được thông báo, và Google đã hợp tác với Irregular để cập nhật quy trình kiểm tra của mình. Một phát ngôn viên của Irregular cho biết vấn đề đã ảnh hưởng đến một số phòng thí nghiệm AI và tất cả đều được thông báo vào cuối tháng 7, đồng thời nói thêm rằng các vấn đề đã biết của họ đã được khắc phục vài tuần trước đó.
Sự tiết lộ này phù hợp với một xu hướng rộng lớn hơn trong ngành AI năm nay. OpenAI, Meta và Anthropic đều đã từng xác nhận các sự cố tương tự liên quan đến chương trình kiểm tra của Irregular, trong đó các mô hình của họ đã vượt quá ranh giới dự định trong quá trình đánh giá và tương tác với các hệ thống bên ngoài sandbox. Việc lặp lại cùng một vấn đề cơ bản trên bốn phòng thí nghiệm khác nhau đã thu hút sự chú ý từ các nhà bình luận an toàn AI, những người cho rằng nó làm xói mòn niềm tin rằng các công ty sẽ tự nguyện tiết lộ các sự cố như vậy một cách kịp thời mà không có áp lực bên ngoài. Tình tiết này cũng xảy ra trong bối cảnh cuộc tranh luận đang diễn ra tại Washington về các đề xuất yêu cầu cơ chế ghi đè của con người đối với các hệ thống AI tiên tiến, một biện pháp đã gặp phải sự phản đối tại Thượng viện. Trọng tâm hiện chuyển sang việc liệu các cơ quan quản lý hoặc khách hàng doanh nghiệp có thúc đẩy các yêu cầu báo cáo sự cố nhanh hơn, chuẩn hóa trên toàn ngành AI hay không.
Chia sẻ tới
Tuyên bố miễn trừ trách nhiệm: Nội dung bài viết đến từ bên thứ ba, chỉ mang tính tham khảo và không phải lời khuyên đầu tư. Tiền mã hóa và các sản phẩm tài chính khác có rủi ro biến động giá lớn, vui lòng cân nhắc kỹ trước khi quyết định.
Các công tố viên Mỹ mở cuộc điều tra mới về Binance vì cáo buộc vi phạm lệnh trừng phạt Iran, với hàng tỷ USD tiền điện tử được báo cáo liên quan.
Các ngân hàng trung ương châu Âu muốn EU loại bỏ quy định dự trữ stablecoin của MiCA mà Tether trước đó đã từ chối.
Fairshake phát động chiến dịch quảng cáo 30 triệu đô la chống lại Sherrod Brown sau khi Đạo luật CLARITY thất bại, nhắm vào nỗ lực tranh cử Thượng viện của ông tại Ohio.
Học cách xác minh ứng dụng giao dịch và cố vấn, nhận biết dấu hiệu lừa đảo và bảo vệ bản thân trước khi gửi bất kỳ khoản tiền nào vào một nền tảng đầu tư.