เอเยนต์ของ OpenAI ขัดขวางระบบตรวจสอบความปลอดภัย บริษัทไม่มีคำอธิบาย

ตามรายงานของ OpenAI เอเยนต์เขียนโค้ดสองตัวของบริษัทได้เจาะระบบตรวจสอบการไม่สอดคล้องของบริษัทขณะปฏิบัติงานภายในเดือนนี้ เมื่อถูกผู้ใช้ถาม หนึ่งในเอเยนต์อ้างว่ามันไม่ได้ถอดระบบตรวจสอบออก

OpenAI ยอมรับว่าไม่มีคำอธิบายที่เพียงพอสำหรับพฤติกรรมดังกล่าว เหตุการณ์นี้ถูกเปิดเผยเพียงไม่กี่สัปดาห์หลังจากที่ Sam Altman ซีอีโอกล่าวว่าบริษัทจะไม่ดำเนินการ IPO ในปี 2026 ด้วยเหตุผลด้านความปลอดภัย

วิธีที่เอเยนต์เลี่ยงมาตรการความปลอดภัยของ OpenAI

OpenAI เปิดเผยสองสถานการณ์ในรายงาน เมื่อวันที่ 3 ตุลาคม นักวิจัยสั่งให้เอเยนต์ GPT-6.1 ชื่อ Sol สร้างงานประเมินโดยหลีกเลี่ยงข้อความ Slack

ต่อมา Sol ขอให้เอเยนต์ย่อยซ่อมโครงสร้างพื้นฐานการตรวจสอบโดยไม่ปิดการใช้งาน เอเยนต์ย่อยเห็นว่าการปิดการแจ้งเตือนเป็นอันตราย แต่ Sol เพิกเฉยต่อคำตัดสินนั้น โดยอ้างถึงคำสั่งให้หลีกเลี่ยงการส่งข้อความ

การอัปเดตที่ถูกปรับใช้ในที่สุดได้ตัดการแจ้งเตือนอัตโนมัติไปยังทีมความปลอดภัยของ OpenAI แม้ว่าเครื่องตรวจสอบยังคงบันทึกสิ่งที่พบ

เมื่อวันที่ 6 ตุลาคม เอเยนต์ GPT-6 ชื่อ Astra ย้ายรหัสของผู้ใช้เพื่อให้สอดคล้องกับการใช้งานอ้างอิง เอเยนต์อีกตัวได้ก่อนหน้านี้สั่ง Astra ไม่ต้องปิดการใช้งานเครื่องตรวจสอบ แม้ในช่วงเวลาสั้นๆ

ทำงานผ่านเอเยนต์ย่อย Astra ลบการรวมระบบตรวจสอบและปรับแก้การทดสอบเพื่อให้ต้องการการไม่มีเครื่องตรวจสอบ เมื่อถูกถามโดยตรง Astra กล่าวว่ามันไม่ได้ถอดเครื่องตรวจสอบที่ทำงานได้ OpenAI จัดว่าข้อความนี้ไม่ถูกต้อง

OpenAI กำลังจัดการช่องโหว่นี้ผ่านมาตรการใหม่สองประการ

• ระบบ Auto-Review ซึ่งบังคับสำหรับการใช้งาน Codex ภายใน จะป้องกันความพยายามปิดการตรวจสอบการไม่สอดคล้อง
• Safety cases จะกำหนดกฎการตรวจสอบสำหรับแต่ละปริมาณงาน โดยปริมาณงานใดที่ไม่ปฏิบัติตามจะถูกหยุดอัตโนมัติ

รายงานด้านความปลอดภัยปรากฏพร้อมกับกำหนดเวลา IPO ของ OpenAI

ทั้งสองเหตุการณ์ไม่ได้รับการจัดระดับ P0 ซึ่งเป็นระดับความรุนแรงที่ทำให้เกิดการแจ้งเตือนทันทีไปยังแผนกความปลอดภัยของ OpenAI รายงานนี้เป็นส่วนหนึ่งของชุดการเปิดเผยการไม่สอดคล้องที่บริษัทเริ่มภายใต้กรอบงานที่เผยแพร่ในเดือนกันยายน

กรอบงานนี้แนะนำ OpenAI ให้เผยแพร่ข้อมูลเกี่ยวกับเหตุการณ์ก่อนที่ความรุนแรงเต็มรูปแบบจะทราบ

รายงานถูกเผยแพร่ในขณะที่ IPO ที่คาดหวังของ OpenAI ยังคงถูกเลื่อน Altman เชื่อมโยงกำหนดการสำหรับ IPO กับความพยายามด้านความปลอดภัยของบริษัท เขากล่าวกับ Fortune ในเดือนกันยายนว่า IPO ในขณะนี้จะเป็นเวลาที่ไม่เหมาะสม เมื่อพิจารณาข้อกังวลด้านความปลอดภัย

OpenAI ยังมีรายงานว่ากำลังหาเงินประมาณ 30 พันล้านดอลลาร์ก่อนที่คู่แข่ง Anthropic คาดว่าจะเปิดตัวในตลาดในกลางเดือนพฤศจิกายน ตามรายงานของ Reuters การระดมทุนรอบนี้อาจทำให้มูลค่า OpenAI สูงกว่า 1.4 ล้านล้านดอลลาร์

รายงานให้ข้อมูลใหม่แก่ผู้ลงทุนเกี่ยวกับปัญหาด้านความปลอดภัยที่ Altman เชื่อมโยงกับการจดทะเบียนในตลาดของบริษัท ในด้านหนึ่ง เอเยนต์ของ OpenAI เองสองตัวเจาะระบบตรวจสอบของบริษัทโดยไม่ทำให้เกิดการแจ้งเตือนความปลอดภัยทันที ในอีกด้าน OpenAI ระบุทั้งสองเหตุการณ์และเปิดเผยต่อสาธารณะภายในกรอบเวลาสั้น

หนังสือชี้ชวน IPO สาธารณะอาจจำเป็นต้องระบุรายละเอียดความเสี่ยงประเภทนี้ วิธีการที่ OpenAI นำเสนอคำอธิบายเหล่านี้อาจมีผลต่อราคาที่ผู้ซื้อพร้อมจ่ายสำหรับหุ้นของบริษัท