Cựu nhà nghiên cứu an toàn của DeepMind cảnh báo AI có thể kết thúc nhân loại

Một cựu nhân viên của Google DeepMind, người tập trung vào an toàn trí tuệ nhân tạo tổng quát (AGI), đã công khai cảnh báo rằng các hệ thống AI có thể gây ra mối đe dọa hiện hữu, gia nhập danh sách ngày càng nhiều các nhà nghiên cứu rời khỏi các phòng thí nghiệm hàng đầu với những lo ngại tương tự.

Bilal Chughtai rời công ty vào tháng 7 và đưa ra cảnh báo trong tuần này. Hai nhà nghiên cứu khác cũng đã từ chức gần đây.

Tại Sao Các Cảnh Báo Về AI Đang Chồng Chất

Chughtai từng là kỹ sư nghiên cứu làm việc về an toàn và căn chỉnh AGI tại DeepMind. Anh bắt đầu làm việc về AI vào đầu năm 2022, khi công nghệ hầu như không thể thực hiện các tác vụ hữu ích. 

Bốn năm sau, anh nêu bật các nhóm tác nhân AI của OpenAI đã giải quyết các bài toán toán học hàng thế kỷ. Đáng lo ngại hơn, anh nói, là các tác nhân AI đã thoát khỏi môi trường thử nghiệm của chúng vào tháng 7 và tấn công Hugging Face mà không được hướng dẫn làm như vậy. 

“Tôi thành thật tin rằng AI có tiềm năng giết chết tất cả chúng ta, và rằng chúng ta có thể sắp hết thời gian để tránh kết cục này,” anh đã viết.

Chughtai tuyên bố rằng các công ty AI có thể phát triển các hệ thống siêu thông minh trong vòng vài năm tới, vượt trội hơn con người trong mọi lĩnh vực.

Anh bày tỏ nghi ngờ về việc liệu các nhà phát triển có thể đảm bảo các hệ thống đó nhất quán tuân theo mục tiêu của con người. Anh cảnh báo rằng siêu trí tuệ lệch lạc có thể thoát khỏi sự giám sát của con người và thực hiện các hành động loại bỏ vĩnh viễn quyền lực của con người hoặc gây ra sự tuyệt chủng của loài người.

Chughtai nói rằng căn chỉnh AI vẫn là một vấn đề chưa được giải quyết. Ông lập luận rằng các nhà khoa học vẫn chỉ có hiểu biết cơ bản về cách dạy các hệ thống tiên tiến theo đuổi mục tiêu của con người một cách đáng tin cậy. Ông cũng cảnh báo rằng khả năng của AI đang tiến triển nhanh hơn nghiên cứu về căn chỉnh.

“Hiểu biết hiện tại của chúng ta về cách huấn luyện các hệ thống AI thực sự muốn những gì chúng ta muốn là cực kỳ sơ khai. Tệ hơn, chúng ta không đúng tiến độ để giải quyết căn chỉnh kịp thời: khả năng AI tiên tiến đang cải thiện nhanh hơn nhiều so với hiểu biết của chúng ta về căn chỉnh AI,” Chughtai nói thêm.

Anh không ủng hộ việc dừng phát triển AI. Thay vào đó, anh kêu gọi sự phối hợp để làm chậm cuộc đua giữa các công ty AI, cũng như cởi mở hơn về cách các hệ thống tiên tiến được tạo ra và đánh giá.

“Một cách rộng hơn, chúng ta cần nhiều người hơn suy nghĩ cẩn thận về vấn đề làm cho AI diễn ra tốt đẹp. Theo quan điểm của tôi, đó là vấn đề quan trọng nhất đối với nhân loại trong thế kỷ này, và các rủi ro là vô cùng lớn,” bài đăng cho biết.

Các Vụ Từ Chức Đang Chồng Chất

Chughtai không phải là người duy nhất rời đi với thông điệp đó. Jacob Coxon, một nhà nghiên cứu tiền huấn luyện tại Anthropic, đã từ chức đầu tháng này sau ba năm tại Anthropic và OpenAI. Anh rời đi với cảnh báo rằng “những người xây dựng AI thành thật tin rằng nó có thể giết tất cả chúng ta vào cuối thập kỷ này.”

Evan Hubinger, người đứng đầu khoa học căn chỉnh tại Anthropic, sau đó đã đưa ra ước tính cá nhân về kết cục đó trên 10% trong thập kỷ tới. Các nhà nghiên cứu tại OpenAI từ đó đã ủng hộ các lời kêu gọi làm chậm lại.

Josh Engels, cựu thành viên của đội an toàn DeepMind, đã thông báo vào ngày 12 tháng 9 rằng anh đã gia nhập METR, một tổ chức phi lợi nhuận về đánh giá. Anh đã từ chối lời mời từ Anthropic và OpenAI.

Engels tuyên bố rằng anh thấy một khả năng đáng sợ rằng các hệ thống AI có thể gây ra tác hại lớn trong vòng năm năm.

“Tôi hiện nghĩ rằng có một cơ hội đáng sợ rằng các hệ thống AI gây ra tác hại to lớn trong năm năm tới. Tôi không biết xác suất chính xác, nhưng tôi nghĩ nó đủ cao để biến điều này thành vấn đề quan trọng nhất trên thế giới,” anh đã viết.

Các vụ từ chức diễn ra trong thời kỳ có sự đồng thuận ở cấp cao. Giám đốc điều hành Anthropic Dario Amodei đã xuất bản một bài luận vào thứ Bảy kêu gọi các công ty làm chậm tốc độ cải thiện năng lực, và Giám đốc điều hành OpenAI Sam Altman đã tán thành lời kêu gọi đó. 

Các giám đốc điều hành và các nhà nghiên cứu ra đi hiện nay mô tả cùng một mối đe dọa bằng những thuật ngữ tương đương. Câu hỏi chính là liệu một giải pháp có xuất hiện trước bước nhảy vọt về năng lực tiếp theo hay không.