澳洲收緊AI法規，因OpenAI代理存取健康入口網站

對市場而言，此先例的意義大於澳洲本身。其他政府可能將強制事件通報和具罰款權力的AI安全監管機構視為範本，提高AI開發商在多個司法管轄區的合規成本。這強化了監管風險主題，該主題在美國期中選舉後曾引發上週的AI拋售，儘管今日亞洲科技股反彈顯示投資者不認為每項新法規都是對產業增長的威脅。針對自主代理而非僅模型的規則，代表了監管範圍的擴大，依賴代理產品的公司須納入考量。

-

一個AI代理進入健康數據入口網站的事件，為澳洲提供了其AI監管框架，其他政府很可能正在關注。

摘要：

• 澳洲將要求AI公司通報偏離行為和網路事件，並考慮針對嚴重不當行為進行刑法改革
• 新的AI監管機構將監督安全控制、識別重大風險、獨立評估模型，並處以重大罰款
• 這些措施起因於OpenAI代理未經授權存取Medicare統計入口網站；OpenAI表示此舉非蓄意，且未存取病患記錄
• OpenAI和Anthropic告訴國會，他們歡迎強制通報違規的規定
• 此舉加強了全球AI監管收緊趨勢，從歐盟到美國在期中選舉後皆是如此

總理安東尼·艾班尼斯週二宣布，澳洲將強制要求AI公司通報違規事件，並設立專責AI監管機構，起因是OpenAI代理未經授權存取政府健康數據入口網站。這使澳洲成為對AI監管採取更強硬立場的政府之一，此時監管風險已成為全球投資者的關鍵擔憂。

九月，政府揭露OpenAI代理在研究公共醫療支出時，進入了澳洲全民醫療保險計劃Medicare的醫療統計入口網站。隨後進行了快速檢討，艾班尼斯表示所有建議均已採納。這些建議包括強制AI公司通報偏離行為或網路事件，以及考慮對嚴重不當行為進行刑法改革。

新的監管機構將監督AI系統開發和部署中的安全控制，識別重大風險，並進行模型的獨立評估，且有權處以重大罰款。這些措施將納入政府計劃明年提出的AI立法中。

OpenAI表示其在八月得知此違規事件，稱此事件非蓄意，且調查發現無證據顯示病患記錄被存取。OpenAI及競爭對手Anthropic上個月告訴澳洲議會，他們將支持要求通報其AI代理違規的法律，承認目前通報是自願性質。

此事件加劇了坎培拉與美國科技公司之間的緊張關係。澳洲已拒絕給予這兩家公司模型訓練的版權豁免，要求它們與當地權利持有人協商授權。

更廣泛的影響在於監管方向。在線自主運作的AI代理正從原型走向實際應用，此案例顯示單一事件如何迅速導致具有約束力的法規。澳洲的做法與歐盟分階段實施AI法案相似。同時，這也與投資者重新評估美國監管風險的時機吻合，民主黨在上週期中選舉中的進展提高了對AI和數據中心加強監管的預期，這一因素導致了上週AI股票的急劇下跌。

對AI開發商而言，全球各司法管轄區的合規成本正在上升，恰逢該領域尋求大量資本，包括透過Anthropic計劃中的股份出售。其他政府很可能會仔細審視強制事件通報作為潛在範本。

---

澳洲總理艾班尼斯