据报道，Anthropic、OpenAI和谷歌讨论成立人工智能安全机构

该报道为周末出现的AI行业领袖的安全相关声明增添了细节，表明协调已超越单一文章或公开宣言。从财务角度看，向共享测试和审计框架的可信迈进可被两种方式解读。标准化的发布前安全检查可通过领先政府行动来降低最大实验室的监管风险，这种模式过去曾推动整个行业的估值上涨。然而，多位观察人士指出，遵守实验室设计标准机构的成本可能强化最大现有企业的地位，因为经合组织（OECD）已指出高固定成本和集中化基础设施是进入AI市场的障碍，这一发展需关注其对小企业和基础设施提供商之间竞争的影响。

上周末行业最突出的安全声明实际上基于三大实验室数月来低调而协调的讨论。

据《The Information》援引知情人士消息，涉及Anthropic、OpenAI和谷歌的工作组会议自7月以来一直在举行，讨论创建一个由行业驱动的AI安全标准机构。这些讨论据称始于Anthropic首席执行官Dario Amodei在周六公开呼吁AI公司降低能力提升速度并改善安全协调之前。

报道指出，上周末的公开声明，包括Amodei的文章和OpenAI首席执行官Sam Altman对其的公开支持，是基于已经活跃的私下协调努力，而非启动新的努力。谷歌DeepMind首席执行官Demis Hassabis此前已奠定部分基础，于7月14日提议成立一个基于美国的Frontier AI Standards Body（前沿AI标准机构），仿照监管美国经纪自营商的自律组织金融业监管局（Financial Industry Regulatory Authority）。

在一次内部全体会议上，Altman据称表示他支持为AI行业创建一个测试和审计机构，同时指出如果没有美国政府的支持，主要的AI实验室需要自行开发这样一个机构。这三家公司似乎在行业自律与政府参与的适当组合上持有不同观点。Anthropic更倾向于与政府机构合作，该公司的红队负责人于7月公开主张与监管机构共同制定安全标准。与此同时，OpenAI强调推进独立于联邦行动的志愿标准的重要性，同时支持关于AI监管的具体州级立法。

根据关于会谈的报道，讨论中的主要提议涉及发布前测试前沿模型的共享协议，包括独立评估、发布前安全审查和标准化风险评估。每家公司已有自己的内部评估系统，Anthropic的负责任的扩展政策（Responsible Scaling Policy）和OpenAI的准备框架（Preparedness Framework）都概述了部署前评估灾难风险的内部程序，而谷歌DeepMind对其内部安全程序的细节相对较少公开。

这并非首次跨公司AI安全合作。Frontier Model Forum（前沿模型论坛）是一个由六家主要AI公司于2023年启动的行业支持的非营利组织，运营着一个相关的AI安全基金（AI Safety Fund），拨款超过1000万美元用于独立安全研究。最近，Linux基金会的Agentic AI Foundation（代理AI基金会）于2025年12月成立，汇集了开放标准项目，如Anthropic的Model Context Protocol、Block的Goose和OpenAI的AGENTS.md。正在进行的会谈是否会形成一个更正式的标准机构，以及它最终拥有的权威或政府支持程度，仍不明朗，报道称工作组讨论仍在进行中。