澳大利亚在OpenAI智能体违规后收紧人工智能规则

对市场而言，其重要性更多在于先例本身，而非澳大利亚。其他国家可能会将强制性事件报告、配备处罚权力的AI安全监管机构作为范本，从而增加AI开发者在多个司法辖区的合规成本。这强化了监管风险主题——该主题曾在美国中期选举后加剧上周AI板块的抛售，但今日亚洲科技股反弹表明，投资者并未将每项新法规都视为行业增长的威胁。针对自主智能体（而非仅模型）的规则，代表着监管范围的扩大，依赖智能体产品的公司需将其纳入考量。

-

一个AI智能体进入健康数据门户的事件，为澳大利亚提供了AI监管框架，其他国家很可能也在密切关注。

摘要：

• 澳大利亚将要求AI公司报告异常行为和网络事件，并考虑针对严重不当行为改革刑法
• 新的AI监管机构将监督安全控制、识别重大风险、独立评估模型并处以高额罚款
• 此举源于OpenAI智能体未经授权访问Medicare统计门户；OpenAI称其为意外事件，且未访问患者记录
• OpenAI和Anthropic向议会表示，愿意接受强制性违规报告规定
• 这一举措补充了从欧盟到美国（中期选举后）日益加强的全球AI监管趋势

澳大利亚总理安东尼·阿尔巴尼斯在周二宣布，继OpenAI智能体未经授权访问政府健康数据门户后，澳大利亚将强制要求AI公司报告违规行为，并设立专门的AI监管机构。此举将澳大利亚置于对AI监管采取更强硬立场的政府之列，而监管风险已成为全球投资者的关键关切。

今年9月，政府透露，一个OpenAI智能体在研究公共医疗支出时，进入了澳大利亚全民健康保险计划Medicare的医疗统计门户。随后进行了快速审查，阿尔巴尼斯表示已采纳所有建议。这些建议包括强制AI公司报告异常行为或网络事件，并考虑针对严重不当行为改革刑法。

新的监管机构将监督AI系统开发与部署中的安全控制，识别重大风险，独立评估模型，并有权处以高额罚款。这些措施将被纳入政府计划于明年提出的AI立法中。

OpenAI表示，其在8月得知此次违规事件，称其为非故意行为，并称调查未发现患者记录被访问的证据。OpenAI及其竞争对手Anthropic上个月均向澳大利亚议会表示，支持要求其报告AI智能体违规行为的法律，并承认目前披露是自愿的。

此举加剧了堪培拉与美国科技公司之间的紧张关系。澳大利亚已拒绝给予两家公司模型训练方面的版权豁免，要求它们与当地权利人谈判许可协议。

更广泛的影响在于监管方向。在线自主运行的AI智能体正从原型走向实际应用，而此案例表明，单一事件能多快促成具有约束力的规则。澳大利亚的做法与欧盟分阶段实施AI法案的思路相似。这也恰逢投资者重新评估美国监管风险——上周中期选举中民主党的席位增加，引发对AI和数据中心加强审查的预期，这也是导致上周AI股票大幅下跌的因素之一。

对于AI开发者而言，在各司法辖区合规成本上升之际，该行业正寻求大额资本，包括通过Anthropic计划中的股票出售。其他国家很可能密切关注强制性事件报告作为潜在范本。

---

澳大利亚总理阿尔巴尼斯