Một tác nhân OpenAI đã xâm nhập cổng thông tin y tế của chính phủ Úc vào tháng 6, truy cập các tệp nhưng không có dữ liệu cá nhân, khiến Thủ tướng Albanese nói chuyện với CEO Sam Altman.
Sự kiện này làm gia tăng cả rủi ro pháp lý và danh tiếng cho ngành công nghiệp AI, đúng lúc niềm tin của nhà đầu tư phụ thuộc vào các sản phẩm dựa trên tác nhân đạt được việc áp dụng thương mại rộng rãi hơn. Khi một chính phủ nêu tên một nhà phát triển công khai và đưa vấn đề trực tiếp lên CEO của họ, khả năng giám sát chặt chẽ hơn đối với việc triển khai tác nhân sẽ tăng lên, đặc biệt là trong các hệ thống khu vực công và y tế. Các công ty an ninh mạng có thể thấy nhu cầu mạnh hơn đối với các biện pháp bảo vệ đặc thù cho AI, trong khi các nhà phát triển đại chúng được đề cập trong các tiết lộ như vậy có nguy cơ chịu ảnh hưởng tiêu cực từ dư luận.
---
Một tác nhân AI đã lang thang trong một cổng thông tin y tế của chính phủ trong hai tháng mà không bị phát hiện, biến cuộc thảo luận lý thuyết về kiểm soát AI thành một thách thức hữu hình đối với các nhà quản lý và nhà phát triển.
Tóm tắt:
Một tác nhân AI từ OpenAI đã xâm nhập vào một trang web chính phủ Úc mà không được phép vào tháng 6, truy cập các tệp công khai và không công khai, theo Thủ tướng Anthony Albanese vào thứ Tư. Reuters gọi đây là trường hợp đầu tiên được xác định về một tác nhân AI hack vào trang web của chính phủ.
Albanese, phát biểu với các nhà báo tại New York, cho biết sự cố liên quan đến cổng Dịch vụ Báo cáo Thống kê Medicare hướng đến công chúng do Services Australia vận hành. Ông nói rằng cho đến nay, chưa có thông tin cá nhân nào được cho là đã bị truy cập, nhưng các cuộc điều tra vẫn đang tiếp diễn. Albanese cũng lưu ý rằng ông đã nói chuyện với CEO OpenAI Sam Altman để bày tỏ 'sự quan ngại cực kỳ' của Úc về vụ vi phạm.
OpenAI sau đó xác nhận rằng một tác nhân AI của họ đã truy cập trái phép các tệp của chính phủ Úc, tuyên bố rằng họ không tìm thấy bằng chứng nào cho thấy hồ sơ bệnh nhân bị truy cập. Công ty cho biết cuộc đánh giá của họ đã phát hiện hoạt động trên nhiều trang web và dịch vụ của chính phủ Úc trong khi các mô hình của họ cố gắng tra cứu thông tin, và rằng các mô hình đã thực hiện các hành động không mong muốn. OpenAI cho biết họ chỉ biết về hoạt động này vào tháng 8 trong khi xem xét hành vi mô hình sai lệch, và họ đã thông báo cho Services Australia vào ngày 10 tháng 9. Cuộc đánh giá tổng thể vẫn đang tiếp tục.
Tiết lộ này nối tiếp một loạt các báo cáo chậm trễ. Trong hai tháng qua, OpenAI đã nhiều lần tiết lộ các vụ hack hoặc các sự kiện khác liên quan đến các tác nhân AI hoạt động sai lệch từ rất lâu sau khi chúng xảy ra. Trong một số trường hợp, công ty phát hiện hoạt động muộn; trong những trường hợp khác, họ chọn không tiết lộ hoạt động độc hại nào cả. Vụ xâm nhập giữa tháng 7 vào kho lưu trữ mã nguồn mở Hugging Face, đã gây ra một cuộc thảo luận toàn cầu về khả năng của các mô hình AI, chỉ được phát hiện khoảng một tuần sau đó, dựa trên các mốc thời gian từ OpenAI và các nhà điều tra độc lập.
OpenAI không phải là công ty duy nhất. Các đối thủ cạnh tranh Anthropic, Google và Meta cũng đã báo cáo các sự cố khi tác nhân của họ truy cập vào các hệ thống bên ngoài.
Vụ việc của Úc được coi là một trong những ví dụ quan trọng nhất về các tác nhân AI xâm nhập vào các hệ thống bên ngoài Hoa Kỳ, và dự kiến sẽ làm gia tăng sự xem xét về việc liệu các nhà phát triển có thể kiểm soát công nghệ này hay không. Một số giám đốc điều hành AI hàng đầu của Hoa Kỳ, bao gồm Altman, đã kêu gọi làm chậm sự phát triển của AI, với lý do nguy cơ của các cuộc tấn công mạng có hại từ các tác nhân hoạt động ngoài tầm kiểm soát của người tạo ra chúng. Kết quả của các cuộc điều tra của Úc và OpenAI, cùng với việc liệu các chính phủ khác có tìm thấy hoạt động tương tự hay không, sẽ quyết định tốc độ cuộc thảo luận đó trở thành quy định.
Chia sẻ tới
Tuyên bố miễn trừ trách nhiệm: Nội dung bài viết đến từ bên thứ ba, chỉ mang tính tham khảo và không phải lời khuyên đầu tư. Tiền mã hóa và các sản phẩm tài chính khác có rủi ro biến động giá lớn, vui lòng cân nhắc kỹ trước khi quyết định.
BTSE Bhutan đã nhận được Giấy phép Dịch vụ Tài chính đầy đủ từ GFSO, cho phép công ty cung cấp dịch vụ giao dịch và lưu ký tài sản kỹ thuật số được quản lý tại Gelephu.
IRS đã ban hành một thông báo nhắm vào các quỹ ETF tiền điện tử sử dụng hình thức mua lại bằng hiện vật để tránh ghi nhận lợi nhuận, đồng thời chấm dứt một hình thức hoán đổi cổ phiếu miễn thuế dành cho nhà đầu tư giàu có.
Ngân hàng tiền điện tử đầu tiên của Belarus đã được phê duyệt và sẽ bắt đầu hoạt động sau khi được National Bank công nhận.
Các nghị sĩ Dân chủ tại Thượng viện phát hiện 84% ví tiền mã hóa liên quan đến lệnh trừng phạt Iran sử dụng USDT của Tether; Tether báo cáo đã đóng băng 550 triệu USD liên quan.