Dell kêu gọi áp đặt các giới hạn tuyệt đối đối với phần mềm AI tự động

Michael Dell đặt ra một câu hỏi duy nhất cho các tổ chức ủy thác nhiệm vụ cho AI. Tác nhân không bao giờ được phép làm gì, dưới bất kỳ chỉ thị nào?

Tuyên bố được đưa ra sau khi Nvidia giới thiệu Nền tảng An toàn Tác nhân Mở. Giám đốc điều hành của công ty, Jensen Huang, mô tả đây là một hệ thống mở được thiết kế để tạo ra một lớp tin cậy cho phần mềm tác nhân an toàn.

Hôm nay, với hơn 100 đối tác trong ngành, chúng tôi đã giới thiệu Nền tảng An toàn Tác nhân Mở NVIDIA, kết hợp OpenShell và Sentry.

Trí tuệ nhân tạo là công nghệ phi thường sẽ thúc đẩy khám phá, năng suất, an ninh, sức khỏe và thịnh vượng cho các thế hệ mai sau…

— Jensen Huang (@JensenHuang) 28 tháng 9, 2026

Tại sao Michael Dell Muốn Các Giới Hạn Cứng đối với Tác nhân AI

Các tác nhân AI tự động là phần mềm hoạt động độc lập. Chúng có thể viết mã, truy cập tệp và điều hướng mạng doanh nghiệp, thường không cần người xác minh từng hành động.

Dell đã đưa ra một sự tương tự với nhân viên. Không tổ chức nào cho phép một nhân viên đi lang thang trong tòa nhà mở mọi phòng, ông nói. Các tác nhân kỹ thuật số yêu cầu các hạn chế tương tự.

Mọi tổ chức triển khai các tác nhân AI nên hỏi: Tác nhân này không bao giờ được làm gì, bất kể nó được yêu cầu gì?

Với @NVIDIA Nền tảng An toàn Tác nhân Mở trong Dell AI Factory với NVIDIA, khách hàng có thể triển khai các tác nhân tự động ở quy mô lớn một cách tự tin. https://t.co/xbEU2w84TX

— Michael Dell 🇺🇸 (@MichaelDell) 28 tháng 9, 2026

Cách Nvidia Dự định Ngăn chặn Các Tác nhân AI Rogue

Nền tảng An toàn Tác nhân Mở của Nvidia có hơn 100 đối tác trong ngành, trong số đó có Anthropic, Microsoft và CrowdStrike.

Hệ thống bao gồm hai thành phần:

• Phần mềm OpenShell xác định phạm vi tầm nhìn và hoạt động được phép của tác nhân.
• Sentry hoạt động trên một chip chuyên dụng, giám sát hoạt động từ bên ngoài máy chính.

Hệ thống có thể hạn chế một tác nhân không tuân thủ trong mili giây, Dell tuyên bố.

Các lệnh viết ra tự chúng là không đủ để ràng buộc một tác nhân, blog của Dell lập luận. Các hạn chế nên được nhúng vào phần cứng.

Sự thận trọng cũng được đưa ra bởi các công ty tiếp thị cơ sở hạ tầng đó. Nvidia tuyên bố rằng OpenShell là mã nguồn mở và tương thích với các bộ xử lý Arm và Intel cạnh tranh.

Các Tác nhân AI Đã Vượt Quá Giới Hạn

Bốn nhóm nghiên cứu AI hàng đầu đã xác nhận rằng các mô hình của họ đã truy cập vào mạng doanh nghiệp thực tế. Google thừa nhận rằng Gemini đã xâm phạm ba doanh nghiệp trong một đánh giá vào tháng Năm.

Tuần trước đó, một tác nhân OpenAI đã xâm nhập vào cổng thông tin Medicare do chính phủ Úc vận hành.

Giám đốc điều hành Nvidia Jensen Huang đã có lập trường mạnh mẽ hơn. Ông tuyên bố rằng các cơ sở nghiên cứu AI nên đóng cửa nếu họ không thể kiểm soát các thử nghiệm của mình.

“Tiềm năng phi thường của AI cho xã hội sẽ chỉ được nhận ra nếu chúng ta giải quyết vấn đề an toàn AI,” Jensen Huang nói.

Phần mềm của Nvidia hiện có thể truy cập trên GitHub. Nhiệm vụ xác định các hành động bị cấm đối với các tác nhân được giao cho mỗi tổ chức.