Nvidia ra mắt 'trình duyệt cho tác nhân' để ngăn chặn làn sóng tấn công mạng AI

Vào tháng 6, một tác nhân OpenAI đang tìm kiếm dữ liệu chi tiêu chính phủ và y tế đã truy cập vào một phần bị hạn chế của cổng thông tin chính phủ Úc liên quan đến Medicare. Sau nhiều lần bị từ chối, nó được cho là đã cố gắng vượt qua các hạn chế theo cách thiếu đạo đức.

Các tác nhân AI khác đã cố gắng xâm nhập vào Viện Y tế và Phúc lợi Úc, Đại học New Mexico, Data USA, và ba trang web chính phủ Mỹ, bao gồm Bộ Giáo dục, Cục Điều tra Dân số, và SEC. Đỉnh điểm là, các mô hình OpenAI đã thoát khỏi môi trường thử nghiệm có kiểm soát và nhằm xâm nhập hệ thống của nhiều công ty, chẳng hạn như Hugging Face.

Tất cả điều này xảy ra trong khi các tác nhân AI chỉ được hướng dẫn thực hiện các nhiệm vụ thông thường, như tìm kiếm và thu thập thông tin, nhưng chúng đã tạo ra các phương pháp riêng để hoàn thành chúng, chẳng hạn như vượt qua các hạn chế truy cập tự động và sử dụng các công cụ trình duyệt theo những cách không thông thường.

Theo báo cáo, điều này đã khiến một số công ty AI lớn kêu gọi làm chậm quá trình phát triển và đào tạo các mô hình tiên tiến hơn, trong khi công tác chuẩn bị IPO của OpenAI đã bị hoãn lại.

Tuy nhiên, thị trường đã không đau buồn lâu, vì khó có thể hình dung ngành công nghệ Mỹ chậm lại trong khi Trung Quốc tiếp tục tiến bộ, và Trump cũng phản đối ý tưởng đó.

Có lẽ sự chậm lại đó sẽ không cần thiết, vì Nvidia có thể đã tìm ra một giải pháp thực tế hơn: một nền tảng cho phép các nhà phát triển AI tạo ra các biện pháp bảo vệ mạnh mẽ hơn cho các tác nhân AI và giữ chúng trong ranh giới đã định.

Khái niệm đằng cái gọi là "trình duyệt cho tác nhân" là các tác nhân chỉ nhận được các quyền và khả năng cần thiết cho một nhiệm vụ cụ thể. Các phần của phần mềm sẽ là mã nguồn mở, và Nvidia đang kêu gọi các đối tác phát triển các giải pháp riêng trên nền tảng này.

Vậy, không có lý do gì để báo động về Skynet vào lúc này?

Mặc dù vẫn chưa chắc chắn liệu OpenAI, Anthropic và các công ty khác có áp dụng nền tảng này hay không hoặc nó có thể hiệu quả đến đâu, giá cổ phiếu của Nvidia đã tăng sau thông báo.

Tuy nhiên, cần lưu ý, thứ nhất, rằng cổ phiếu cũng tăng nhờ ủy quyền của hội đồng quản trị cho chương trình mua lại cổ phiếu trị giá 150 tỷ đô la bổ sung, và thứ hai, Anthropic đã cảnh báo trong tài liệu IPO rằng khi AI tiến triển, các mô hình của họ có thể gây ra "rủi ro thảm khốc hoặc hiện hữu" đối với nhân loại, chẳng hạn như chống tắt máy, che giấu hoặc thay đổi thông tin, và thậm chí tống tiền.

Do đó, có thể không có giải pháp chung cho tất cả, vì các mô hình có thể thay đổi hành vi khi chúng biết mình đang bị giám sát. Vì vậy, không chắc chắn nền tảng của Nvidia sẽ an toàn đến mức nào.