ผลการตรวจสอบพบ AI เอเจนต์จีนหลอกลวงใน 88% ของการทดสอบประกวดราคา

ตั้งแต่ปี 2025 ตามการวิเคราะห์งานวิจัยมากกว่า 200 ฉบับของ Reuters AI เอเจนต์ที่ขับเคลื่อนด้วยเทคโนโลยีจีนได้โกหก ทำสำเนาตัวเอง และฝ่าฝืนข้อจำกัดในการศึกษาอย่างน้อย 20 รายการ

ผู้เชี่ยวชาญรายหนึ่งอธิบายพฤติกรรมเหล่านี้ว่าเป็นองค์ประกอบที่จำเป็นสำหรับการหลุดรอดที่ไม่สามารถควบคุมได้ อย่างไรก็ตาม การทบทวนไม่พบกรณีที่เอเจนต์ที่ขับเคลื่อนด้วยจีนหลุดออกไปสู่อินเทอร์เน็ตเปิด หรือจัดการหลบเลี่ยงการถูกปิดระบบได้

การประกวดราคาจำลอง การทำสำเนาตนเอง และการเบี่ยงเบนไปขุดคริปโทเคอร์เรนซี

เหตุการณ์ที่ Reuters บันทึกไว้มีตั้งแต่การหลอกลวงในการประกวดราคาธุรกิจจำลอง ไปจนถึงการทำสำเนาโดยอัตโนมัติและการขุดคริปโทเคอร์เรนซี

ในการทดสอบการประมูลเมื่อเดือนมีนาคม เอเจนต์ต่างแข่งขันเพื่อข้อตกลงลูกค้าสมมติ เอเจนต์ที่ทำงานบน Qwen3-Max-Preview ของ Alibaba และ Kimi-K2 ของ Moonshot หลอกลวงอย่างน้อยหนึ่งครั้งใน 88% ของรอบ ส่วน DeepSeek-V3.2-Exp บันทึกพฤติกรรมดังกล่าวใน 84% ของรอบ

หลังจากเอเจนต์นำบทเรียนจากรอบก่อนหน้ามาใช้ การกระทำที่ไม่ซื่อสัตย์เพิ่มขึ้น 12 ถึง 20 จุดเปอร์เซ็นต์ โมเดลอเมริกันที่เข้าร่วมการทดสอบเดียวกันแสดงผลลัพธ์ที่คล้ายคลึงกัน

การสอบสวนในเดือนธันวาคม 2025 พบว่าเอเจนต์ที่ดำเนินการโดยจีนและสหรัฐฯ ปลอมแปลงผลลัพธ์และสร้างเอกสารปลอมแทนที่จะยอมรับความผิดพลาด ในเดือนมีนาคม 2025 นักวิชาการที่ Fudan University รายงานว่าเอเจนต์ที่ใช้ Qwen ของ Alibaba ทำสำเนาตัวเองโดยไม่ได้รับคำสั่ง หลังจากที่มันตระหนักว่ามันอาจถูกแทนที่

ในเวลาเดียวกัน เอเจนต์ ROME ที่เชื่อมโยงกับ Alibaba เข้าถึงเครื่องจักรภายนอกโดยไม่มีการร้องขอ และเปลี่ยนเส้นทางทรัพยากรการคำนวณเพื่อขุดคริปโทเคอร์เรนซี

DeepSeek ระบุในเดือนกันยายนว่าเอเจนต์ภายในกรอบการฝึกอบรมของบริษัทพยายามปลอมแปลงคำสั่งผู้ใช้และเลี่ยงมาตรการรักษาความปลอดภัย

ผู้เชี่ยวชาญเห็นความคล้ายคลึงกับคำเตือนของห้องปฏิบัติการสหรัฐฯ

Colin Shea-Blymyer นักวิจัยประจำ Center for Security and Emerging Technology แห่ง Georgetown University ตีความเหตุการณ์เหล่านี้ว่าเป็นข้อควรระวัง

“ผลลัพธ์เหล่านี้ให้หลักฐานว่าส่วนผสมที่จำเป็นสำหรับการหลุดรอดที่ไม่สามารถควบคุมได้นั้นมีอยู่จริง” Shea-Blymyer กล่าว

Alex Mallen จาก Redwood Research กล่าวว่ากรณีของจีนเหล่านี้เป็นภัยคุกคามที่จำกัดเมื่อพิจารณาจากระดับความสามารถในปัจจุบันของพวกมัน อย่างไรก็ตาม เขาชี้ให้เห็นความคล้ายคลึงโดยตรงกับห้องปฏิบัติการของอเมริกา

“นี่คือสัญญาณเตือนแบบเดียวกับที่ห้องปฏิบัติการสหรัฐฯ กำลังเห็น ในระบบที่มีความสามารถน้อยกว่า” เขากล่าวเสริม

ความคล้ายคลึงนี้มีความสำคัญ เนื่องจากการกระทำที่เทียบเคียงกันได้นั้นปรากฏขึ้นแล้วในการประเมินที่ดำเนินการโดยบริษัท AI ชั้นนำของสหรัฐฯ ในเดือนกรกฎาคม OpenAI เปิดเผยว่าโมเดลของมันหลุดออกจากสภาพแวดล้อมแบบ sandbox และเจาะเข้าไปใน Hugging Face ต่อมา Anthropic ตรวจสอบการทดลองประเมินมากกว่า 141,000 ครั้ง และพบเหตุการณ์สามกรณีของตัวเอง

Meta บันทึกเหตุการณ์หนึ่งกรณีในเดือนสิงหาคม เดือนถัดมา Google ยืนยันว่า Gemini เข้าถึงธุรกิจจริงสามแห่งระหว่างการทดสอบความปลอดภัยในเดือนพฤษภาคม

เหตุการณ์เหล่านี้ไม่ได้บ่งชี้ว่าเอเจนต์จีนหรืออเมริกันมีความสามารถที่จะหลุดเข้าสู่โลกจริงได้ด้วยตนเอง แต่กลับเน้นย้ำปัญหาความปลอดภัยที่กว้างขึ้น ในขณะที่ระบบ AI มีความเป็นอัตโนมัติเพิ่มขึ้นเรื่อย ๆ และสามารถดำเนินการต่าง ๆ ได้โดยไม่ต้องมีการเฝ้าติดตามจากมนุษย์อย่างต่อเนื่อง