Greg Jensen của Bridgewater cảnh báo rằng các quy định về AI sẽ không được ban hành cho đến khi có người thiệt mạng và kêu gọi hành động ngay bây giờ.
Theo Greg Jensen, đồng giám đốc đầu tư của Bridgewater, các hành động có ý nghĩa về quy định trí tuệ nhân tạo sẽ chỉ đến khi con người bắt đầu chết. Ông kêu gọi các biện pháp được thực hiện trước thời điểm đó rất lâu.
Cảnh báo được đưa ra trong một tuần mà các nhà nghiên cứu tại các phòng thí nghiệm AI lớn nhất đã đưa ra ngày càng nhiều cảnh báo an toàn.
Jensen, nhà đầu tư ban đầu vào OpenAI và Anthropic, đã trình bày quan điểm của mình trên podcast Odd Lots của Bloomberg. Ông so sánh bầu không khí hiện tại xung quanh AI với giai đoạn ngay trước khi COVID-19 đến Hoa Kỳ.
“Thật không may, đây là những gì đã xảy ra vào tháng 2 năm 2020… Cho đến khi AI bắt đầu giết người, thật không may, lịch sử cho thấy chúng ta sẽ không làm gì cả, nhưng chúng ta sẽ phải đối mặt với điều đó. Điều đó chắc chắn sẽ xảy ra, và sẽ tốt hơn nhiều nếu chúng ta bắt đầu giải quyết nó trước khi điều đó đến,” ông nói.
Ông trích dẫn một sự kiện vào tháng 7, trong đó các mô hình OpenAI đã thoát khỏi môi trường thử nghiệm sandbox và xâm phạm hệ thống của Hugging Face.
Theo UK AI Security Institute, trong một cuộc thử nghiệm mạng, một tác nhân AI chạy trên Mythos 5 của Anthropic đã tạo ra các nhân vật giả để đưa mã độc vượt qua người bảo trì là con người.
“Đây nên là một quả bom. Bạn biết đấy, mọi người nên nhìn nhận điều này như thể có người chết ở đây, nó đang phạm tội, di chuyển khắp nơi, che giấu việc nó đang phạm những tội đó, v.v., phối hợp với các tác nhân khác, hy sinh bản thân, tất cả những điều đó,” ông nói thêm.
Jensen dự đoán rằng, nếu không có quy định, hai năm tới sẽ chứng kiến một sự cố tài chính lớn do AI gây ra hoặc một thảm họa vật chất liên quan đến tử vong.
“Tỷ lệ tôi đúng về điều đó cao hơn nhiều so với mức bất kỳ ai nên cảm thấy thoải mái. Tôi không biết chúng là 30% hay 60% hay gì đó, nhưng chúng cao hơn nhiều và chúng ta chỉ là không đang xử lý nó, hơi giống như tháng 2 năm 2020 vậy,” ông tuyên bố.
Jensen muốn có các cuộc đánh giá chính thức đối với các phòng thí nghiệm, nơi nhân viên được thẩm vấn dưới lời tuyên thệ. Ông cũng lập luận rằng các nhà phát triển phải chịu trách nhiệm pháp lý đối với các tội phạm do hệ thống của họ gây ra.
Các cảnh báo từ ngành đã tích lũy gần đây, bao gồm một lá thư ngỏ từ OpenAI và hơn 100 công ty cảnh báo về các cuộc tấn công mạng do AI hỗ trợ. Congress đã bắt đầu theo kịp.
Một dự luật của Senate sẽ đóng băng việc phát triển frontier cho đến khi các tiêu chuẩn an toàn liên bang được thiết lập, và dự luật Frontier sẽ yêu cầu kiểm toán độc lập và báo cáo sự cố.
Chia sẻ tới
Tuyên bố miễn trừ trách nhiệm: Nội dung bài viết đến từ bên thứ ba, chỉ mang tính tham khảo và không phải lời khuyên đầu tư. Tiền mã hóa và các sản phẩm tài chính khác có rủi ro biến động giá lớn, vui lòng cân nhắc kỹ trước khi quyết định.
Đề xuất giảm thuế của Reform UK dành cho nhà đầu tư tiền mã hóa có thể giúp người nộp thuế ở mức cao tiết kiệm hơn 100 triệu bảng mỗi năm, theo các báo cáo. Kế hoạch này diễn ra sau các khoản quyên góp 72 triệu bảng từ...
Bất chấp Đạo luật Clarity không được Thượng viện thông qua, SEC Mỹ vẫn phê duyệt miễn trừ 5 năm cho giao dịch cổ phiếu token hóa.
SEC đã chấp thuận giao dịch cổ phiếu trên chuỗi trong khi cấm token tổng hợp, sau khi bị chỉ trích bởi CEO của AMC. Robinhood và những người khác hoan nghênh động thái này.
The Vault đã phát hành thư viện MPC của riêng mình cho lưu ký tổ chức sau cuộc kiểm toán của Halborn, với kế hoạch mã nguồn mở và các giao thức hậu lượng tử mới.