Anthropic, OpenAI และ Google ถูกเปิดเผยว่าได้หารือเกี่ยวกับการจัดตั้งหน่วยงานด้านความปลอดภัย AI

รายงานดังกล่าวเพิ่มรายละเอียดให้กับคำแถลงด้านความปลอดภัยจากผู้นำอุตสาหกรรม AI ที่ปรากฏในช่วงสุดสัปดาห์ ซึ่งบ่งชี้ว่าการประสานงานได้ก้าวหน้าไปมากกว่าเรียงความเดียวหรือการประกาศต่อสาธารณะ ในแง่การเงิน การเคลื่อนไหวที่น่าเชื่อถือไปสู่กรอบการทดสอบและการตรวจสอบร่วมกันอาจถูกตีความได้ในสองลักษณะที่แตกต่างกัน การตรวจสอบความปลอดภัยก่อนเผยแพร่ที่เป็นมาตรฐานอาจลดความเสี่ยงด้านกฎระเบียบสำหรับห้องปฏิบัติการขนาดใหญ่ที่สุดโดยการนำหน้าการดำเนินการของรัฐบาล ซึ่งเป็นรูปแบบที่ในอดีตได้ช่วยเพิ่มมูลค่าประเมินทั่วทั้งภาคส่วน อย่างไรก็ตาม ผู้สังเกตการณ์หลายคนชี้ให้เห็นว่าต้นทุนของการปฏิบัติตามหน่วยงานมาตรฐานที่ออกแบบโดยห้องปฏิบัติการอาจเสริมความแข็งแกร่งให้กับตำแหน่งของบริษัทใหญ่ที่ครองตลาด เนื่องจาก OECD ได้ระบุแล้วว่าต้นทุนคงที่สูงและโครงสร้างพื้นฐานแบบรวมศูนย์เป็นอุปสรรคต่อการเข้าสู่ตลาด AI ซึ่งเป็นพัฒนาการที่ต้องจับตามองสำหรับผลกระทบต่อการแข่งขันระหว่างผู้เล่นรายเล็กและผู้ให้บริการโครงสร้างพื้นฐาน

คำแถลงด้านความปลอดภัยที่โดดเด่นที่สุดจากอุตสาหกรรมในช่วงสุดสัปดาห์กลับกลายเป็นว่ามีพื้นฐานมาจากการหารือที่เงียบสงบและประสานงานกันเป็นเวลาหลายเดือนระหว่างห้องปฏิบัติการขนาดใหญ่สามแห่ง

การประชุมคณะทำงานที่เกี่ยวข้องกับ Anthropic, OpenAI และ Google ได้จัดขึ้นตั้งแต่เดือนกรกฎาคมเพื่อหารือเกี่ยวกับการจัดตั้งหน่วยงานมาตรฐานความปลอดภัย AI ที่ขับเคลื่อนโดยอุตสาหกรรม ตามรายงานของ The Information ซึ่งอ้างแหล่งข่าวที่คุ้นเคยกับการหารือ การหารือดังกล่าว reportedly เริ่มต้นก่อนการร้องขอต่อสาธารณะของ Dario Amodei ซีอีโอของ Anthropic ในวันเสาร์ ให้บริษัท AI ลดความเร็วของการพัฒนาความสามารถและปรับปรุงการประสานงานด้านความปลอดภัย

รายงานบ่งชี้ว่าคำแถลงต่อสาธารณะที่ทำในช่วงสุดสัปดาห์ รวมถึงเรียงความของ Amodei และการรับรองต่อสาธารณะของ Sam Altman ซีอีโอของ OpenAI ต่อเรียงความนั้น มีพื้นฐานมาจากความพยายามประสานงานส่วนตัวที่ดำเนินอยู่แล้ว มากกว่าจะเริ่มต้นใหม่ Demis Hassabis ซีอีโอของ Google DeepMind ได้วางรากฐานบางส่วนไว้ก่อนหน้านี้ โดยเสนอเมื่อวันที่ 14 กรกฎาคมให้จัดตั้ง Frontier AI Standards Body ที่ตั้งอยู่ในสหรัฐฯ โดยจำลองมาจาก Financial Industry Regulatory Authority ซึ่งเป็นองค์กรกำกับดูแลตนเองที่ดูแลโบรกเกอร์-ดีลเลอร์ในสหรัฐฯ

ในระหว่างการประชุมภายในแบบ all-hands นั้น Altman reportedly กล่าวว่าเขาสนับสนุนการจัดตั้งหน่วยงานทดสอบและตรวจสอบสำหรับอุตสาหกรรม AI พร้อมกับสังเกตว่าหากไม่มีการสนับสนุนจากรัฐบาลสหรัฐฯ ห้องปฏิบัติการ AI หลักจะต้องพัฒนาหน่วยงานดังกล่าวด้วยตนเอง บริษัททั้งสามดูเหมือนจะมีมุมมองที่แตกต่างกันบ้างเกี่ยวกับสัดส่วนที่เหมาะสมของการกำกับดูแลตนเองของอุตสาหกรรมและการมีส่วนร่วมของรัฐบาล Anthropic มีแนวโน้มที่จะร่วมมือกับหน่วยงานรัฐบาลมากกว่า โดยหัวหน้าทีม red team ของบริษัทได้โต้แย้งต่อสาธารณะในเดือนกรกฎาคมเพื่อมาตรฐานความปลอดภัยที่พัฒนาร่วมกับผู้กำกับดูแล ในขณะที่ OpenAI เน้นย้ำถึงความสำคัญของการผลักดันมาตรฐาน voluntary ที่เป็นอิสระจากการดำเนินการของรัฐบาลกลาง พร้อมกับการสนับสนุนกฎหมายระดับรัฐเฉพาะเกี่ยวกับการกำกับดูแล AI

ข้อเสนอหลักที่กำลังหารือกันเกี่ยวข้องกับโปรโตคอลร่วมกันสำหรับการทดสอบโมเดล frontier ก่อนที่จะเผยแพร่ต่อสาธารณะ รวมถึงการประเมินอิสระ การทบทวนความปลอดภัยก่อนเปิดตัว และการประเมินความเสี่ยงที่เป็นมาตรฐาน โดยอ้างอิงจากรายงานเกี่ยวกับการหารือ แต่ละบริษัทมีระบบภายในของตนเองสำหรับการประเมินดังกล่าว โดย Responsible Scaling Policy ของ Anthropic และ Preparedness Framework ของ OpenAI ต่างก็ระบุขั้นตอนภายในสำหรับการประเมินความเสี่ยงจากภัยพิบัติก่อนการปรับใช้ ในขณะที่ Google DeepMind เปิดเผยรายละเอียดของขั้นตอนความปลอดภัยภายในของตนเองน้อยกว่า

นี่ไม่ใช่ความพยายามครั้งแรกในการร่วมมือด้านความปลอดภัย AI ระหว่างบริษัท Frontier Model Forum ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรที่ได้รับการสนับสนุนจากอุตสาหกรรม เริ่มต้นในปี 2023 โดยบริษัท AI ขนาดใหญ่หกแห่ง ดำเนินการกองทุน AI Safety Fund ที่เกี่ยวข้องกับเงินกว่า 10 ล้านดอลลาร์ที่จัดสรรให้กับการวิจัยความปลอดภัยอิสระ เมื่อเร็ว ๆ นี้ Agentic AI Foundation ของ Linux Foundation ก่อตั้งขึ้นในเดือนธันวาคม 2025 ได้รวมโครงการมาตรฐานเปิด เช่น Model Context Protocol ของ Anthropic, Goose ของ Block และ AGENTS.md ของ OpenAI เข้าด้วยกัน ยังไม่ชัดเจนว่าการหารือที่กำลังดำเนินอยู่จะนำไปสู่หน่วยงานมาตรฐานที่เป็นทางการมากขึ้นหรือไม่ และท้ายที่สุดหน่วยงานดังกล่าวจะมีอำนาจหรือการสนับสนุนจากรัฐบาลมากเพียงใด โดยรายงานบ่งชี้ว่าการประชุมคณะทำงานยังคงดำเนินอยู่