Anthropic, OpenAI và Google được cho là đã thảo luận về việc thành lập cơ quan an toàn AI

Bài báo bổ sung chi tiết cho các tuyên bố liên quan đến an toàn từ các nhà lãnh đạo ngành AI xuất hiện vào cuối tuần, cho thấy sự phối hợp đã tiến triển vượt ra ngoài một bài luận đơn lẻ hoặc tuyên bố công khai. Về mặt tài chính, một động thái đáng tin cậy hướng tới các khuôn khổ kiểm tra và kiểm toán chung có thể được diễn giải theo hai cách khác nhau. Các biện pháp kiểm tra an toàn trước khi phát hành được chuẩn hóa có thể giảm rủi ro pháp lý cho các phòng thí nghiệm lớn nhất bằng cách đi trước hành động của chính phủ, một mô hình trong quá khứ đã thúc đẩy định giá trong toàn ngành. Tuy nhiên, một số nhà quan sát đã chỉ ra rằng chi phí tuân thủ một cơ quan tiêu chuẩn do phòng thí nghiệm thiết kế có thể củng cố vị thế của các công ty lớn nhất hiện tại, vì OECD đã xác định chi phí cố định cao và cơ sở hạ tầng tập trung là rào cản gia nhập thị trường AI, một diễn biến cần theo dõi để đánh giá tác động của nó đối với sự cạnh tranh giữa các công ty nhỏ hơn và nhà cung cấp cơ sở hạ tầng.

Các tuyên bố an toàn nổi bật nhất từ ngành công nghiệp vào cuối tuần hóa ra dựa trên nhiều tháng thảo luận phối hợp lặng lẽ giữa ba phòng thí nghiệm lớn.

Các cuộc họp nhóm làm việc liên quan đến Anthropic, OpenAI và Google đã diễn ra từ tháng 7 để thảo luận về việc thành lập một cơ quan tiêu chuẩn an toàn AI do ngành điều hành, theo The Information, trích dẫn các nguồn tin quen thuộc với các cuộc đàm phán. Các cuộc thảo luận được cho là đã bắt đầu trước yêu cầu công khai của giám đốc điều hành Anthropic Dario Amodei vào thứ Bảy, kêu gọi các công ty AI giảm tốc độ tiến bộ khả năng và cải thiện phối hợp an toàn.

Bài báo chỉ ra rằng các tuyên bố công khai đưa ra vào cuối tuần, bao gồm bài luận của Amodei và sự xác nhận công khai của giám đốc điều hành OpenAI Sam Altman về nó, dựa trên một nỗ lực phối hợp riêng tư đã hoạt động hơn là bắt đầu một nỗ lực mới. Giám đốc điều hành Google DeepMind Demis Hassabis trước đó đã đặt một số nền tảng, đề xuất vào ngày 14 tháng 7 một Cơ quan Tiêu chuẩn AI Biên giới có trụ sở tại Mỹ mô phỏng theo Cơ quan Quản lý Tài chính Ngành, tổ chức tự quản lý giám sát các đại lý môi giới chứng khoán Mỹ.

Trong một cuộc họp toàn thể nội bộ, Altman được cho là đã tuyên bố rằng ông ủng hộ việc thành lập một cơ quan kiểm tra và kiểm toán cho ngành AI, đồng thời lưu ý rằng nếu không có sự hỗ trợ của chính phủ Mỹ, các phòng thí nghiệm AI chính sẽ cần phát triển cơ quan đó. Ba công ty dường như có quan điểm hơi khác nhau về sự kết hợp phù hợp giữa tự điều chỉnh ngành và tham gia của chính phủ. Anthropic có xu hướng hợp tác nhiều hơn với các cơ quan chính phủ, với trưởng nhóm red team của công ty đã công khai lập luận vào tháng 7 về các tiêu chuẩn an toàn được xây dựng cùng với các cơ quan quản lý. OpenAI, trong khi đó, nhấn mạnh tầm quan trọng của việc thúc đẩy các tiêu chuẩn tự nguyện độc lập với hành động liên bang, đồng thời hỗ trợ các luật cấp tiểu bang cụ thể liên quan đến giám sát AI.

Đề xuất chính đang được thảo luận liên quan đến các giao thức chung để kiểm tra các mô hình biên giới trước khi phát hành cho công chúng, bao gồm đánh giá độc lập, rà soát an toàn trước khi ra mắt và đánh giá rủi ro chuẩn hóa, dựa trên báo cáo về các cuộc đàm phán. Mỗi công ty đã có hệ thống nội bộ riêng cho các đánh giá như vậy, với Chính sách Mở rộng Có trách nhiệm của Anthropic và Khung Chuẩn bị của OpenAI đều phác thảo các quy trình nội bộ để đánh giá rủi ro thảm khốc trước khi triển khai, trong khi Google DeepMind ít cởi mở hơn về chi tiết các quy trình an toàn nội bộ của mình.

Đây không phải là nỗ lực đầu tiên về hợp tác an toàn AI giữa các công ty. Diễn đàn Mô hình Biên giới, một tổ chức phi lợi nhuận do ngành hậu thuẫn bắt đầu vào năm 2023 bởi sáu công ty AI lớn, vận hành một Quỹ An toàn AI liên kết với hơn 10 triệu USD phân bổ cho nghiên cứu an toàn độc lập. Gần đây hơn, Nền tảng AI Đại lý của Tổ chức Linux, thành lập vào tháng 12 năm 2025, đã tập hợp các dự án tiêu chuẩn mở như Giao thức Ngữ cảnh Mô hình của Anthropic, Goose của Block và AGENTS.md của OpenAI. Liệu các cuộc đàm phán đang diễn ra có dẫn đến một cơ quan tiêu chuẩn chính thức hơn, và mức độ thẩm quyền hoặc hỗ trợ của chính phủ mà nó cuối cùng nắm giữ, vẫn chưa rõ ràng, với báo cáo chỉ ra rằng các cuộc thảo luận của nhóm làm việc vẫn đang tiếp tục.