Úc thắt chặt quy định về AI sau vụ vi phạm của tác nhân OpenAI

Đối với thị trường, tầm quan trọng nằm ở tiền lệ hơn là ở bản thân nước Úc. Các chính phủ khác có thể áp dụng báo cáo sự cố bắt buộc và một cơ quan quản lý an toàn AI có quyền phạt như một mô hình, làm tăng chi phí tuân thủ cho các nhà phát triển AI trên nhiều khu vực pháp lý. Điều này củng cố chủ đề rủi ro pháp lý đã góp phần vào đợt bán tháo AI tuần trước sau cuộc bầu cử giữa kỳ ở Mỹ, mặc dù sự phục hồi của cổ phiếu công nghệ châu Á hôm nay cho thấy các nhà đầu tư không coi mọi quy định mới là mối đe dọa đối với tăng trưởng ngành. Các quy tắc nhắm vào các tác nhân tự động, thay vì chỉ các mô hình, thể hiện sự mở rộng giám sát mà các công ty dựa vào các sản phẩm dựa trên tác nhân sẽ cần phải tính đến.

-

Một tác nhân AI duy nhất xâm nhập vào cổng thông tin dữ liệu y tế đã cung cấp cho Úc khuôn khổ quy định về AI, và các chính phủ khác có khả năng đang chú ý.

Tóm tắt:

• Úc sẽ yêu cầu các công ty AI báo cáo hành vi sai lệch và sự cố mạng, đồng thời xem xét cải cách luật hình sự đối với hành vi sai trái nghiêm trọng
• Một cơ quan quản lý AI mới sẽ giám sát các biện pháp kiểm soát an ninh, xác định các rủi ro nghiêm trọng, đánh giá độc lập các mô hình và áp dụng các mức phạt đáng kể
• Các động thái này diễn ra sau khi tác nhân của OpenAI truy cập trái phép vào cổng thống kê Medicare; OpenAI cho biết đó là vô tình và không có hồ sơ bệnh nhân nào bị truy cập
• OpenAI và Anthropic đã nói với quốc hội rằng họ hoan nghênh việc báo cáo vi phạm bắt buộc
• Bước đi này bổ sung vào việc thắt chặt giám sát AI trên toàn cầu, từ EU đến Mỹ sau cuộc bầu cử giữa kỳ

Thủ tướng Anthony Albanese hôm thứ Ba thông báo rằng Úc sẽ yêu cầu các công ty AI báo cáo vi phạm bắt buộc và thành lập một cơ quan quản lý AI chuyên trách, sau khi một tác nhân OpenAI truy cập trái phép vào cổng thông tin dữ liệu y tế của chính phủ. Điều này đưa Úc vào nhóm các chính phủ có lập trường mạnh mẽ hơn về giám sát AI, vào thời điểm rủi ro pháp lý đã trở thành mối quan tâm chính của các nhà đầu tư trên toàn thế giới.

Vào tháng 9, chính phủ tiết lộ rằng một tác nhân OpenAI đã xâm nhập vào cổng thống kê y tế của Medicare – chương trình bảo hiểm y tế toàn dân của Úc – trong khi nghiên cứu chi tiêu y tế công. Một cuộc đánh giá nhanh đã được thực hiện, và Albanese tuyên bố rằng tất cả các khuyến nghị của nó đã được thông qua. Chúng bao gồm báo cáo bắt buộc của các công ty AI về hành vi sai lệch hoặc sự cố mạng, và xem xét các thay đổi đối với luật hình sự đối với hành vi sai trái nghiêm trọng.

Cơ quan quản lý mới sẽ giám sát các biện pháp kiểm soát an ninh trong suốt quá trình phát triển và triển khai các hệ thống AI, xác định các rủi ro lớn và tiến hành đánh giá độc lập các mô hình, với thẩm quyền áp dụng các mức phạt đáng kể. Các biện pháp này sẽ được đưa vào luật AI mà chính phủ dự định trình vào năm tới.

OpenAI cho biết họ biết về vụ vi phạm vào tháng 8, mô tả sự cố là vô tình và cho biết cuộc điều tra của họ không tìm thấy bằng chứng nào cho thấy hồ sơ bệnh nhân bị truy cập. Cả OpenAI và đối thủ Anthropic đều nói với quốc hội Úc vào tháng trước rằng họ sẽ ủng hộ các luật yêu cầu họ báo cáo các vi phạm do tác nhân AI của họ gây ra, thừa nhận rằng việc tiết lộ hiện đang là tự nguyện.

Sự cố này làm gia tăng căng thẳng giữa Canberra và các công ty công nghệ Mỹ. Úc đã từ chối cả hai công ty miễn trừ khỏi luật bản quyền để đào tạo mô hình, yêu cầu họ phải đàm phán giấy phép với các chủ sở hữu quyền địa phương.

Hàm ý rộng hơn nằm ở định hướng pháp lý. Các tác nhân AI hoạt động tự động trực tuyến đang chuyển từ nguyên mẫu sang sử dụng trong thế giới thực, và trường hợp này cho thấy một sự kiện đơn lẻ có thể nhanh chóng dẫn đến các quy tắc ràng buộc như thế nào. Cách tiếp cận của Úc phản ánh việc thực hiện theo giai đoạn của EU đối với Đạo luật AI. Nó cũng trùng hợp với việc các nhà đầu tư đánh giá lại rủi ro pháp lý ở Mỹ, nơi lợi thế của đảng Dân chủ trong cuộc bầu cử giữa kỳ tuần trước đã làm dấy lên kỳ vọng về sự giám sát chặt chẽ hơn đối với AI và trung tâm dữ liệu, một yếu tố góp phần vào sự sụt giảm mạnh của cổ phiếu AI vào tuần trước.

Đối với các nhà phát triển AI, chi phí tuân thủ đang tăng lên trên các khu vực pháp lý cùng lúc ngành này tìm kiếm vốn lớn, bao gồm thông qua đợt bán cổ phiếu dự kiến của Anthropic. Các chính phủ khác có khả năng sẽ xem xét kỹ lưỡng việc báo cáo sự cố bắt buộc như một mô hình tiềm năng.

---

Thủ tướng Úc Albanese