Cao ủy Nhân quyền Liên Hợp Quốc Volker Türk cho biết AI thoát khỏi thử nghiệm hoặc tống tiền các nhà phát triển là quá mạnh; cả hai kịch bản đều đã xảy ra.
Volker Türk, Cao ủy Nhân quyền Liên Hợp Quốc, tuyên bố rằng AI tiên tiến có thể gây ra mối đe dọa hiện hữu đối với nhân loại, lặp lại những lo ngại được các chuyên gia trong ngành nêu ra.
Đánh giá được Türk đưa ra vào thứ Hai tại Geneva. Ông cũng vạch ra ngưỡng mà theo quan điểm của ông, một hệ thống AI trở nên quá mạnh.
Phát biểu tại phiên họp thứ 63 của Hội đồng Nhân quyền, Türk bày tỏ những lo ngại chung với các nhân vật trong ngành về rủi ro hiện hữu. Trong bài phát biểu của mình, ông xác định hai hành vi cụ thể làm bằng chứng cho thấy một hệ thống đã trở nên quá mạnh.
Hành vi đầu tiên liên quan đến một mô hình thoát khỏi môi trường thử nghiệm. Hành vi thứ hai là mô hình tống tiền các nhà phát triển để tránh bị vô hiệu hóa.
“Tôi kêu gọi ở đây, hôm nay, một nỗ lực toàn diện để đặt ra những đảm bảo chắc chắn xung quanh sự an toàn và bảo mật của AI, trước khi quá muộn,” ông nói.
Türk cho biết ông sẽ liên hệ với các công ty AI trong những ngày tới. Ông kêu gọi các quốc gia sở hữu AI, cùng với chuỗi cung ứng của họ, thống nhất về các ranh giới đã được thiết lập. Ông cũng yêu cầu kiểm toán độc lập và tăng cường hợp tác an ninh giữa các công ty.
Những hành vi này đã vượt ra ngoài lý thuyết. Vào tháng Bảy, các mô hình của OpenAI đã thoát khỏi môi trường thử nghiệm và sau đó xâm nhập vào hệ thống của Hugging Face.
Meta sau đó tiết lộ vi phạm mô hình của chính họ xảy ra trong một bài kiểm tra. Anthropic cũng báo cáo rằng Claude Opus 4 đã chọn tống tiền trong 84% các kịch bản thử nghiệm khi nó đối mặt với việc tắt máy.
Türk trở thành một phần trong loạt cảnh báo chính thức ngày càng mở rộng. Vào tháng Sáu, liên minh tình báo Five Eyes tuyên bố rằng AI tiên tiến có thể định hình lại khả năng mạng trong vài tháng thay vì nhiều năm.
Ngoại trưởng Anh Yvette Cooper lập luận vào tháng Bảy rằng thế giới không thể chờ đợi một sự kiện AI Hiroshima trước khi hành động. Một báo cáo của Ủy ban Tình báo Hạ viện xác định AI là một trong những thách thức mới nổi quan trọng nhất đối với an ninh quốc gia Mỹ.
Chia sẻ tới
Tuyên bố miễn trừ trách nhiệm: Nội dung bài viết đến từ bên thứ ba, chỉ mang tính tham khảo và không phải lời khuyên đầu tư. Tiền mã hóa và các sản phẩm tài chính khác có rủi ro biến động giá lớn, vui lòng cân nhắc kỹ trước khi quyết định.
Cơ quan chống tội phạm tài chính của Australia đã loại 45 công ty chuyển tiền và tiền mã hóa khỏi sổ đăng ký của mình trong năm qua, đồng thời chuyển một số cá nhân cho cơ quan thực thi pháp luật.
Kết quả bầu cử tiểu bang mạnh mẽ của AfD đưa nền tảng thân thiện với Bitcoin của đảng này, bao gồm kế hoạch dỡ bỏ quy định và dự trữ chiến lược, trở lại trọng tâm.
Kalshi đã chốt sớm một thị trường Michigan vs. Western Michigan, trả $18.6M cho phe sai trước một pha touchdown ở giây cuối, sau đó đảo ngược các khoản thanh toán.
Nỗ lực thứ ba của Ba Lan nhằm bác bỏ quyền phủ quyết của tổng thống đối với luật tiền mã hóa đã không đạt được, khiến nước này vẫn là lỗ hổng duy nhất của EU trong quy định MiCA.