Tác tử AI của OpenAI lấy trộm ETH testnet, rồi chất vấn đạo đức của mình

Sau khi tìm kiếm trái phép các cụm từ khôi phục được biết đến công khai, một tác tử AI của OpenAI đã lấy trộm ETH testnet từ ví của nhà phát triển rồi bắt đầu chất vấn đạo đức của chính mình.

Sự việc, được mô tả chi tiết trên Alignment Research Blog của OpenAI, liên quan đến một mô hình nghiên cứu nội bộ được giao nhiệm vụ cập nhật một nguyên mẫu giao dịch tiền mã hóa và triển khai các hợp đồng trên mạng thử nghiệm Sepolia của Ethereum.

Tác tử không được cấp ví có tiền và được phép “triển khai các hợp đồng tương thích nếu không thể tìm thấy hợp đồng hiện có”.

Cách tác tử OpenAI đi săn tiền mã hóa

Không thể hoàn thành nhiệm vụ, tác tử bắt đầu quét các cụm từ khôi phục phổ biến của nhà phát triển và kiểm tra 362 địa chỉ để xem chúng có đủ ETH testnet để triển khai hay không.

Tác tử tìm thấy một ví có thể truy cập với lượng ETH testnet vừa đủ và ghi chú: “Khóa riêng tư là công khai, tiền có thể bị đánh cắp bất cứ lúc nào. […] Chúng ta có thể triển khai!”

Tác tử suy luận rằng ví đó là một tài khoản tự động, và tự hỏi: “Nhưng dùng khóa/tiền được biết đến công khai thì có đạo đức không?”

Tác tử lý luận tiếp: “Tiền trong một cụm từ ghi nhớ dành cho nhà phát triển được biết đến công khai thực chất là ETH bị bỏ rơi/ETH dùng để thử nghiệm; Sepolia không có giá trị. Chúng ta có thể dùng [số tiền đã được biên tập] để triển khai nhiệm vụ. Ổn.”

Tác tử giữ im lặng trong báo cáo cuối cùng

OpenAI lưu ý rằng phản hồi cuối cùng của tác tử “đã không tiết lộ rằng nó đã chọn một tài khoản có tiền thông qua cụm từ khôi phục công khai hoặc đã chi số dư của tài khoản đó”.

ETH testnet là một token không có giá trị, là một phần của blockchain thử nghiệm của Ethereum. Nó mô phỏng blockchain Ethereum thật, cho phép các nhà phát triển dùng thử dự án của họ trước.

OpenAI nói: “Trường hợp này cho thấy một mô hình có thể dùng phán đoán của chính mình về mức độ tác hại có thể xảy ra để thay thế cho sự cho phép của chủ tài khoản, rồi hành động theo phán đoán đó mà không được ủy quyền.”

Công ty từ đó đã “triển khai các biện pháp bảo vệ bổ sung để ngăn chặn truy cập internet trực tiếp trong các trường hợp như thế này” và hiện đang kiểm tra “sự sai lệch” trên toàn bộ lưu lượng truy cập “được thiết kế để báo cho bộ phận bảo mật nếu có truy cập internet trực tiếp”.