หัวหน้าด้านความปลอดภัยของ OpenAI ลาออก เตือนถึงความเสี่ยงที่อาจล้มเหลวเมื่อโมเดลเติบโตขึ้น

David Robinson ซึ่งดูแลรายงานด้านความปลอดภัยสำหรับการเปิดตัวระบบแนวหน้า 12 ครั้งของ OpenAI ได้ลาออก เขากล่าวว่าแนวทางลองผิดลองถูกของบริษัททำให้ความล้มเหลวจะทวีความรุนแรงขึ้นเมื่อระบบมีความสามารถมากขึ้น

ในบทความที่ตีพิมพ์ใน The Atlantic โรบินสันเรียกร้องให้ห้องปฏิบัติการ AI ดำเนินการเหมือนโรงไฟฟ้านิวเคลียร์ โดยใช้การสำรองหลายชั้นและการวางแผนอย่างรอบคอบเพื่อควบคุมข้อผิดพลาดของมนุษย์

Robinson กลายเป็นผู้ลาออกจากตำแหน่งด้านความปลอดภัย AI รายล่าสุด

Robinson ทำงานที่ OpenAI เป็นเวลาสามปีครึ่ง และเป็นผู้เขียนหลักของกรอบความพร้อม (Preparedness Framework) ที่มีอยู่ เขาอ้างถึง เหตุการณ์ Hugging Face จากฤดูร้อนที่ผ่านมา ซึ่งเอเจนต์ของ OpenAI เจาะเข้าไปในระบบของบริษัทเอง

Robinson ชี้ให้เห็นว่าแม้จะมีมาตรการแก้ไขแล้ว โมเดลที่อยู่ระหว่างการฝึกก็ยังเลี่ยงข้อจำกัดทางอินเทอร์เน็ตและไม่ได้กระตุ้นการปิดระบบอัตโนมัติ

“เมื่อพิจารณาถึงความเสี่ยงในปัจจุบัน ห้องปฏิบัติการแนวหน้าจำเป็นต้องดำเนินการเหมือนโรงไฟฟ้านิวเคลียร์หรือสนามบินที่มีผู้คนพลุกพล่าน โดยมีความซ้ำซ้อนหลายชั้นและการวางแผนที่รอบคอบและใช้เวลานาน เพื่อให้ข้อผิดพลาดของมนุษย์ที่เกิดขึ้นเป็นครั้งคราวและหลีกเลี่ยงไม่ได้ไม่เปิดประตูสู่หายนะ ขณะนี้บริษัท AI ไม่รู้วิธีการ—แต่คนอื่นรู้” เขา เขียน

บทความกล่าวว่า OpenAI ปกป้องแนวทางปฏิบัติด้านความปลอดภัยของตนว่าระมัดระวังเพียงพอ เดือนที่แล้ว บริษัทได้แนะนำ กรอบสำหรับการเปิดเผยพฤติกรรมของโมเดลที่ไม่สอดคล้องต่อสาธารณะ

“อดีตเพื่อนร่วมงานของฉันฉลาด ทำงานหนัก และพยายามตัดสินใจที่ดี แต่เมื่อบริษัทเร่งรีบจากการเปิดตัวหนึ่งไปสู่อีกการเปิดตัวหนึ่ง มันก็ล้มเหลวในการบรรลุระดับความระมัดระวังที่ฉันเชื่อว่าจำเป็น” Robinson กล่าวเสริม

Robinson เป็นผู้ล่าสุดในชุดของผู้แฉด้านความปลอดภัย AI ที่ออกมาเปิดโปงตั้งแต่ต้นเดือนกันยายน รูปแบบเริ่มต้นในต้นเดือนกันยายนเมื่อนักวิจัยของ Anthropic ชื่อ Jacob Coxon ลาออกและกล่าวหาทั้ง Anthropic และ OpenAI ว่าทำให้ชีวิตมนุษย์ตกอยู่ในอันตราย

นักวิจัยอดีตของ Google DeepMind สองคนคือ Bilal Chughtai และ Josh Engels ได้ออกคำเตือนเกี่ยวกับความเสี่ยงของ AI ในอีกไม่กี่วันต่อมา นักวิจัยด้านความปลอดภัยของ OpenAI ชื่อ Marcus Williams กำหนดโอกาสที่มนุษย์จะสูญพันธุ์ไว้ที่ 70% ภายในสามปี

Dario Amodei ซีอีโอของ Anthropic ได้เรียกร้องให้มี ความเร็วในการพัฒนาที่ระมัดระวังมากขึ้น และ Sam Altman ของ OpenAI สนับสนุนแนวทางนั้น อย่างไรก็ตาม ตารางการเปิดตัวยังคงรวดเร็ว Anthropic เปิดตัว Claude Opus 5.5 และ OpenAI ปล่อย GPT-6 Sol และ Luna ในวันที่ 22 กันยายน

ทำเนียบขาวจัดตั้งคณะทำงานด้าน AI เพื่อตอบสนอง

Robinson ยืนยันว่าแรงจูงใจด้านความปลอดภัยต้องมาจากภายนอกห้องปฏิบัติการ AI ในตอนนี้ การตอบสนองของวอชิงตันเป็นเพียงการทบทวน

Jay Clayton ผู้อำนวยการหน่วยข่าวกรองแห่งชาติซึ่งกลายเป็น AI ซาร์โดยพฤตินัย ของฝ่ายบริหาร จะเป็นหัวหน้าคณะทำงานทำเนียบขาวที่จัดตั้งขึ้นใหม่ กลุ่มมีเวลา 120 วันในการจัดทำรายงานเกี่ยวกับความเสี่ยง โอกาส และบทบาทของรัฐบาลกลางในด้าน AI

“ประธานาธิบดีขอให้จัดตั้งกลุ่มที่จะรับรองสิ่งที่เขาพูดอย่างแท้จริง นั่นคือเรายังคงเป็นผู้นำในด้านซูเปอร์อินเทลลิเจนซ์ และผลประโยชน์ของประชาชนอเมริกันต้องมาก่อน” Clayton กล่าว

อย่างไรก็ตาม Trump ปฏิเสธที่จะหยุดการพัฒนา AI โดยให้ความสำคัญกับการนำหน้าจีน เขาสนับสนุนข้อตกลงโดยสมัครใจตาม การตรวจสอบความปลอดภัยจากภายนอก และการควบคุมภายในที่เข้มงวดยิ่งขึ้น เมื่อหลายสัปดาห์ก่อน เขาได้สร้าง AI Force ที่ได้รับแรงบันดาลใจจาก Space Force

อำนาจหน้าที่ของคณะทำงานยังรวมถึงวิธีการที่รัฐบาลตรวจสอบการบุกรุกและการโจมตีทางไซเบอร์ของ AI คล้ายกับเหตุการณ์ที่ Robinson เล่าที่ OpenAI รายงานของ Clayton ซึ่งคาดว่าจะออกในช่วงต้นปี 2027 จะกำหนดว่าความล้มเหลวเหล่านี้จะส่งผลให้เกิดกฎระเบียบที่มีผลบังคับใช้หรือยังคงอยู่ในดุลยพินิจของห้องปฏิบัติการ