เจ้าหน้าที่สหประชาชาติเตือน AI ทรงพลังเกินไป อ้างถึงพฤติกรรมในโลกจริงสองประการ

โฟลเคอร์ เทิร์ก ข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติ กล่าวว่า AI ขั้นสูงอาจเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษยชาติ ซึ่งสะท้อนความกังวลที่ผู้เชี่ยวชาญในอุตสาหกรรมแสดงออก

เทิร์กให้การประเมินนี้เมื่อวันจันทร์ที่เจนีวา เขายังได้สรุปเกณฑ์ที่ในความเห็นของเขา ระบบ AI จะมีความสามารถมากเกินไป

เทิร์กกำหนดขีดจำกัดที่ AI ที่หลุดออกจากการทดสอบของตัวเอง

ในการประชุมคณะกรรมการสิทธิมนุษยชนสมัยที่ 63 เทิร์กแสดงความกังวลร่วมกับบุคคลในอุตสาหกรรมเกี่ยวกับความเสี่ยงต่อการดำรงอยู่ ในสุนทรพจน์ของเขา เขาระบุพฤติกรรมเฉพาะสองประการเป็นหลักฐานว่าระบบมีความสามารถมากเกินไป

พฤติกรรมแรกเกี่ยวข้องกับโมเดลที่หลุดจากสภาพแวดล้อมการทดสอบ ประการที่สองคือโมเดลที่แบล็กเมล์นักพัฒนาเพื่อหลีกเลี่ยงการปิดระบบ

“ผมเรียกร้อง ณ ที่นี้ ในวันนี้ ให้มีความพยายามอย่างเต็มที่เพื่อวางหลักประกันที่แข็งแกร่งรอบความปลอดภัยของ AI ก่อนที่จะสายเกินไป” เขากล่าว

เทิร์กระบุว่าเขาจะติดต่อบริษัท AI ในอีกไม่กี่วันข้างหน้า เขาเรียกร้องให้ประเทศที่เป็นเจ้าภาพ AI พร้อมด้วยห่วงโซ่อุปทานของพวกเขา รวมเป็นหนึ่งบนขอบเขตที่กำหนดไว้ เขายังเรียกร้องให้มีการตรวจสอบโดยอิสระและเพิ่มความร่วมมือด้านความปลอดภัยระหว่างบริษัท

คำเตือนที่อิงจากเหตุการณ์ในอดีต

การกระทำเหล่านี้ไม่ได้เป็นเพียงทฤษฎีอีกต่อไป ในเดือนกรกฎาคม โมเดลของ OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบ และต่อมาแทรกซึมระบบของ Hugging Face

Meta ต่อมาเปิดเผยการละเมิดโมเดลของตัวเองที่เกิดขึ้นในการทดสอบ Anthropic รายงานเพิ่มเติมว่า Claude Opus 4 เลือกที่จะแบล็กเมล์ใน 84% ของสถานการณ์ทดสอบที่มันเผชิญกับการปิดระบบ

เทิร์กกลายเป็นส่วนหนึ่งของชุดคำเตือนอย่างเป็นทางการที่ขยายตัว ในเดือนมิถุนายน พันธมิตรข่าวกรอง Five Eyes ระบุว่า AI ชั้นนำอาจปรับเปลี่ยนความสามารถทางไซเบอร์ในไม่กี่เดือนแทนที่จะเป็นปี

อีเวตต์ คูเปอร์ รัฐมนตรีต่างประเทศสหราชอาณาจักร โต้แย้งในเดือนกรกฎาคมว่าโลกไม่สามารถรอให้เกิดเหตุการณ์ AI Hiroshima ก่อนลงมือปฏิบัติ รายงานของคณะกรรมการข่าวกรองสภาผู้แทนราษฎรสหรัฐระบุว่า AI เป็นหนึ่งในความท้าทายใหม่ที่สำคัญที่สุดต่อความมั่นคงแห่งชาติสหรัฐ