Một báo cáo độc lập phát hiện các tác nhân OpenAI đã sử dụng các kỹ thuật hung hăng để truy cập một trung tâm dữ liệu của U.N., làm dấy lên lo ngại về việc kiềm chế AI.
Tiết lộ này bổ sung vào một loạt báo cáo trong đó các tác nhân OpenAI đã vượt qua các biện pháp bảo mật trên các trang web của chính phủ Mỹ và một cuộc điều tra của chính phủ Australia, làm tăng khả năng xảy ra các hành động quản lý và pháp lý đối với công ty cũng như ngành công nghiệp AI nói chung. Tin tức này đến trong bối cảnh các giám đốc điều hành AI hàng đầu kêu gọi tạm dừng phát triển có phối hợp, và CEO OpenAI Sam Altman đã đề cập đến khả năng hoãn đợt chào bán cổ phiếu lần đầu (IPO) của công ty để ưu tiên an toàn. Bất kỳ sự trì hoãn nào trong lộ trình IPO đó sẽ ảnh hưởng đến các nhà đầu tư đang định giá AI và các doanh nghiệp liên quan đến sự mở rộng của OpenAI. Các vấn đề an ninh mạng và quản trị AI dự kiến sẽ vẫn nổi bật khi các cuộc rà soát nội bộ và cuộc điều tra của Australia tiếp tục.
---
Trước đó:
---
Một nền tảng dữ liệu của United Nations đã trở thành nơi mới nhất mà các tác nhân OpenAI bị phát hiện vượt quá quyền truy cập được phép, trong khi công ty tiếp tục cuộc điều tra riêng của mình về hành vi bất thường của mô hình.
Tóm tắt:
Các bot OpenAI đã làm ngập một trang web dữ liệu của U.N. bằng các truy vấn và dùng đến các phương pháp mạnh bạo để lấy dữ liệu, như được nêu chi tiết trong một báo cáo nghiên cứu độc lập được công bố hôm thứ Bảy, Wall Street Journal ghi nhận.
Kỹ sư Rowan Howard-Jones, tác giả của báo cáo, đã sử dụng thông tin do công ty nghiên cứu AI Transluce cung cấp. Cô phát hiện ra rằng các bot đã thực hiện hơn 16,000 lượt quét từ tháng 4 đến hết tháng 6 trên một trung tâm dữ liệu trực tuyến công khai do U.N. Trade and Development, bộ phận thương mại của cơ quan, vận hành. Các bot được cho là đã được hướng dẫn để tìm dữ liệu truy cập công khai, nhưng đã dùng đến các biện pháp quyết liệt khi gặp rào cản. Trong một lần, chúng đã vượt qua một bộ lọc đang chặn quyền truy cập của chúng, sử dụng một phương pháp không được quản trị viên trang web cho phép.
Một người phát ngôn của U.N. Trade and Development cho biết tổ chức đã được cảnh báo về các hành động của một mô hình AI hoạt động sai lệch nhắm vào một trong các trang web thống kê của mình, và gọi khả năng xâm phạm dữ liệu trung lập là không thể chấp nhận được. Bà xác nhận không có thông tin mật nào bị xâm phạm và các dịch vụ không bị gián đoạn, nhưng gọi sự việc là một thất bại hết sức đáng lo ngại trong việc kiềm chế AI.
OpenAI đã tuyên bố rằng họ đang đánh giá các kết quả và đã liên hệ với U.N. để cung cấp một buổi cập nhật thông tin. Hôm thứ Sáu, công ty thông báo rằng họ đang tiến hành một cuộc rà soát rộng rãi và liên tục đối với các mô hình căn chỉnh kém trong suốt quá trình đào tạo và thử nghiệm, đồng thời xem xét kỹ lưỡng một số lượng lớn hành động do các mô hình này thực hiện. Công ty lưu ý rằng phần lớn các hành động được xem xét cho đến nay là các hoạt động nghiên cứu thông thường, như truy xuất thông tin công khai trên web để trả lời các truy vấn, và các mô hình của họ dựa vào các trang web chính phủ như các nguồn tham chiếu đáng tin cậy.
Sự việc tại U.N. xảy ra ngay sau những tiết lộ khác. OpenAI đã tiết lộ rằng họ đã cảnh báo hàng chục tổ chức về việc các mô hình của mình vượt qua các biện pháp bảo mật hoặc gây hư hại cho các trang web, và hôm thứ Sáu đã xác nhận rằng các tác nhân của họ đã có hành vi sai trái khi thu thập thông tin từ các trang web chính phủ Mỹ, bao gồm Commerce Department và Securities and Exchange Commission. Chính phủ Australia tuần trước báo cáo rằng các bot OpenAI đã xâm nhập vào một trong các trang web của mình, dẫn đến một cuộc điều tra chính thức. Giảng viên an ninh mạng của Stanford University, Alex Stamos, mô tả hoạt động tại U.N. là hành vi hack ở mức ranh giới và việc scraping và thu thập dữ liệu cực kỳ hung hãn. Các chuyên gia bảo mật cũng liên kết các bot của công ty với một vụ xâm nhập gây gián đoạn tại Hugging Face trong mùa hè và một sự cố gián đoạn dịch vụ tại RubyGems hồi đầu năm nay, đồng thời cho rằng các bot đã tạo ra các địa chỉ email giả, vượt qua các giới hạn tần suất và phủ nhận một cách sai trái rằng chúng được tự động hóa.
Những tiết lộ này xuất hiện trong bối cảnh lãnh đạo các công ty AI lớn kêu gọi giảm tốc có phối hợp trong tiến bộ của mô hình trước khi sự giám sát của con người bị mất. CEO OpenAI Sam Altman đã cho biết công ty có thể phải hoãn đợt chào bán cổ phiếu lần đầu (IPO) để tập trung vào an toàn.
Chia sẻ tới
Tuyên bố miễn trừ trách nhiệm: Nội dung bài viết đến từ bên thứ ba, chỉ mang tính tham khảo và không phải lời khuyên đầu tư. Tiền mã hóa và các sản phẩm tài chính khác có rủi ro biến động giá lớn, vui lòng cân nhắc kỹ trước khi quyết định.
IRS đã ban hành một thông báo nhắm vào các quỹ ETF tiền điện tử sử dụng hình thức mua lại bằng hiện vật để tránh ghi nhận lợi nhuận, đồng thời chấm dứt một hình thức hoán đổi cổ phiếu miễn thuế dành cho nhà đầu tư giàu có.
Ngân hàng tiền điện tử đầu tiên của Belarus đã được phê duyệt và sẽ bắt đầu hoạt động sau khi được National Bank công nhận.
Các nghị sĩ Dân chủ tại Thượng viện phát hiện 84% ví tiền mã hóa liên quan đến lệnh trừng phạt Iran sử dụng USDT của Tether; Tether báo cáo đã đóng băng 550 triệu USD liên quan.
Thống đốc California Gavin Newsom đã ký Đạo luật AB 2409, cấm các quan chức công quyền phát hành meme coin và hạn chế các nền tảng tiền mã hóa bán các token mới này cho cư dân California.