อดีตนักวิจัยด้านความปลอดภัยของ DeepMind เตือนว่า AI อาจทำให้มนุษยชาติสิ้นสุด

พนักงานอดีตของ Google DeepMind ที่เน้นด้านความปลอดภัยของปัญญาประดิษฐ์ทั่วไป (AGI) ได้เตือนต่อสาธารณะว่าระบบ AI อาจเป็นภัยคุกคามต่อการดำรงอยู่ โดยร่วมกับรายชื่อนักวิจัยที่เพิ่มขึ้นซึ่งลาออกจากห้องปฏิบัติการชั้นนำพร้อมข้อกังวลที่คล้ายกัน

Bilal Chughtai ออกจากบริษัทในเดือนกรกฎาคมและออกคำเตือนในสัปดาห์นี้ นักวิจัยเพิ่มเติมอีกสองคนก็ลาออกเมื่อเร็วๆ นี้เช่นกัน

ทำไมคำเตือนเกี่ยวกับ AI ถึงเพิ่มขึ้นเรื่อยๆ

Chughtai ดำรงตำแหน่งวิศวกรวิจัยที่ทำงานด้านความปลอดภัยและการจัดแนว (alignment) ของ AGI ที่ DeepMind เขาเริ่มทำงานด้าน AI ในช่วงต้นปี 2022 เมื่อเทคโนโลยีแทบจะทำงานที่มีประโยชน์ไม่ได้ 

สี่ปีต่อมา เขาเน้นย้ำถึงฝูงเอเจนต์ (agent swarms) ของ OpenAI ที่แก้ ปัญหาคณิตศาสตร์ที่มีอายุหลายศตวรรษ ได้ ที่น่ากังวลกว่านั้น เขากล่าวคือ เอเจนต์ AI หลุดออกจากแซนด์บ็อกซ์ทดสอบ ในเดือนกรกฎาคมและแฮ็ก Hugging Face โดยไม่ได้รับคำสั่งให้ทำเช่นนั้น 

“ผมเชื่ออย่างจริงใจว่า AI มีศักยภาพที่จะฆ่าเราทุกคน และเราอาจกำลังหมดเวลาเพื่อหลีกเลี่ยงผลลัพธ์นี้” เขา เขียน

Chughtai กล่าวว่าบริษัท AI สามารถพัฒนาระบบที่เหนือชั้น (superintelligent) ภายในไม่กี่ปีข้างหน้า ซึ่งจะมีประสิทธิภาพเหนือกว่ามนุษย์ในทุกด้าน

เขาตั้งข้อสงสัยว่านักพัฒนาจะสามารถรับประกันได้หรือไม่ว่าระบบดังกล่าวปฏิบัติตามวัตถุประสงค์ของมนุษย์อย่างสม่ำเสมอ เขาเตือนว่าสติปัญญาที่เหนือชั้นซึ่งไม่ได้จัดแนว (misaligned superintelligence) อาจหลุดพ้นจากการกำกับดูแลของมนุษย์และดำเนินการที่ทำให้อำนาจของมนุษย์สูญสิ้นไปอย่างถาวรหรือทำให้มนุษย์สูญพันธุ์

Chughtai กล่าวว่าการจัดแนว (alignment) ของ AI ยังคงเป็นปัญหาที่ยังไม่ได้รับการแก้ไข เขาโต้แย้งว่านักวิทยาศาสตร์ยังคงมีความเข้าใจเพียงพื้นฐานเกี่ยวกับวิธีสอนระบบขั้นสูงให้ไล่ตามเป้าหมายของมนุษย์อย่างน่าเชื่อถือ เขายังเตือนว่าความสามารถของ AI กำลังก้าวหน้าเร็วกว่าการวิจัยด้านการจัดแนว

“ความเข้าใจในปัจจุบันของเราเกี่ยวกับวิธีฝึกระบบ AI ที่ต้องการสิ่งที่เราต้องการอย่างลึกซึ้งนั้นเป็นพื้นฐานอย่างยิ่ง ที่แย่กว่านั้น เราไม่ได้อยู่ในเส้นทางที่จะแก้ปัญหาการจัดแนวได้ทันเวลา: ความสามารถของ AI ระดับแนวหน้ากำลังพัฒนารวดเร็วกว่าความเข้าใจของเราเกี่ยวกับการจัดแนวของ AI” Chughtai กล่าวเสริม

เขาไม่ได้สนับสนุนให้หยุดการพัฒนา AI แต่เขากลับเรียกร้องให้มีการประสานงานเพื่อชะลอการแข่งขันระหว่างบริษัท AI ตลอดจนความเปิดเผยมากขึ้นเกี่ยวกับวิธีการสร้างและประเมินระบบระดับแนวหน้า

“ในวงกว้างยิ่งขึ้น เราต้องการคนจำนวนมากขึ้นในการคิดอย่างรอบคอบเกี่ยวกับปัญหาการทำให้ AI ดำเนินไปได้ดี ในมุมมองของผม มันเป็นปัญหาที่สำคัญที่สุดที่มนุษยชาติกำลังเผชิญในศตวรรษนี้ และเดิมพันนั้นมหาศาล” โพสต์ดังกล่าวระบุ

การลาออกกำลังเพิ่มขึ้น

Chughtai ไม่ใช่คนเดียวที่ลาออกพร้อมข้อความนั้น Jacob Coxon นักวิจัยด้านการฝึกอบรมล่วงหน้า (pretraining) ที่ Anthropic ลาออกเมื่อต้นเดือนนี้หลังจากสามปีที่ Anthropic และ OpenAI เขาลาออกพร้อมคำเตือนว่า “คนที่สร้าง AI เชื่ออย่างจริงใจว่ามันอาจฆ่าเราทุกคนภายในสิ้นทศวรรษนี้”

Evan Hubinger ซึ่งนำด้านวิทยาศาสตร์การจัดแนว (alignment science) ที่ Anthropic ต่อมาได้ให้ค่าประมาณส่วนตัวของผลลัพธ์นั้นสูงกว่า 10% ในทศวรรษหน้า นักวิจัยที่ OpenAI ได้สนับสนุนการเรียกร้องให้ชะลอการพัฒนาตั้งแต่นั้นมา

Josh Engels อดีตสมาชิกทีมความปลอดภัยของ DeepMind ประกาศเมื่อวันที่ 12 กันยายนว่าเขาได้เข้าร่วม METR ซึ่งเป็นองค์กรไม่แสวงหากำไรด้านการประเมิน เขาปฏิเสธข้อเสนอจาก Anthropic และ OpenAI

Engels กล่าวว่าเขาเห็นความเป็นไปได้ที่น่ากลัวว่าระบบ AI อาจก่อให้เกิดอันตรายใหญ่หลวงภายในห้าปี

“ตอนนี้ผมคิดว่ามีโอกาสที่น่ากลัวว่าระบบ AI จะก่อให้เกิดอันตรายมหาศาลในอีกห้าปีข้างหน้า ผมไม่ทราบความน่าจะเป็นที่แน่นอน แต่ผมคิดว่ามันสูงพอที่จะทำให้ปัญหานี้เป็นปัญหาที่สำคัญที่สุดในโลก” เขา เขียน

การลาออกเกิดขึ้นในช่วงที่มีความสอดคล้องกันในระดับผู้นำ Dario Amodei ซีอีโอของ Anthropic เผยแพร่บทความเมื่อวันเสาร์ที่กระตุ้น ให้บริษัทต่างๆ ชะลอความเร็วของการปรับปรุงความสามารถ และ Sam Altman ซีอีโอของ OpenAI สนับสนุนการเรียกร้องนั้น 

ผู้บริหารและนักวิจัยที่ลาออกตอนนี้อธิบายภัยคุกคามเดียวกันในคำที่เทียบเคียงได้ คำถามสำคัญคือว่าแนวทางแก้ไขจะมาถึงก่อนการก้าวกระโดดความสามารถครั้งต่อไปหรือไม่