หลังจากลาออกจาก Anthropic นักวิจัย AI เตือนว่ามนุษยชาติอาจสูญสิ้นภายในทศวรรษนี้

นักวิจัย AI ชาวอังกฤษ Jacob Coxon ลาออกจาก Anthropic และระบุว่าปัญญาประดิษฐ์อาจทำลายมนุษยชาติก่อนสิ้นปี 2030

ทำไมคำเตือนของเขาถึงควรเชื่อถือได้? พื้นหลังของเขาเป็นคนวงใน AI อย่างเต็มตัว ก่อน Anthropic เขาอยู่ที่ OpenAI และมีส่วนร่วมในการพัฒนา ChatGPT 4.5

ดังนั้นเขาดูเหมือนจะพูดจากความกังวลที่แท้จริงมากกว่าการแพร่ความตื่นตระหนก มาดูพื้นฐานข้อเท็จจริงของคำกล่าวที่น่าตกใจบางส่วนของเขากัน

ฉันลาออกจาก Anthropic วันนี้ ฉันใช้เวลาสามปีที่ผ่านมาทำงานวิจัยพรีเทรนนิงทั้งที่ OpenAI และ Anthropic ทั้งสองบริษัทไม่ได้ดำเนินการอย่างรับผิดชอบ พวกเขากำลังแข่งกันไปสู่ซูเปอร์อินเทลลิเจนซ์ที่ปรับปรุงตัวเองได้และพนันกับชีวิตของเรา ความคิดเพิ่มเติมด้านล่าง

— Jacob Coxon (@hilbertspaess) September 9, 2026

AI อาจยุติชีวิตมนุษย์ – ในรูปแบบใด?

Coxon ไม่ได้บอกว่า AI เช่น Claude หรือ GPT จะกลายเป็นนักฆ่าแบบ Terminator ทางกายภาพ แต่เขาอาจหมายถึงซูเปอร์อินเทลลิเจนซ์ที่ทำให้ความสามารถทางปัญญาของมนุษย์ไม่จำเป็นอีกต่อไป

ความกลัวเหล่านี้ถูกสะท้อนโดยบุคคลสำคัญรวมถึง Bill Gates

โมเดล ChatGPT 6 Astra ของ OpenAI ถูกอ้างว่าบรรลุ AGI หมายถึงเครื่องจักรที่สามารถใช้เหตุผลเหมือนมนุษย์

ดังนั้น AI สามารถดำเนินการวิจัยและสร้างกระบวนการเพื่อพัฒนาโมเดล AI อื่นได้โดยอัตโนมัติ ตามที่ทั้ง OpenAI และ Anthropic กล่าว สิ่งนี้กำลังเกิดขึ้นแล้วในระดับจำกัด

ในสถานการณ์นั้น AI อาจไม่ต้องการการแทรกแซงของมนุษย์เพื่อเพิ่มความสามารถของตัวเองในเร็วๆ นี้ อาชีพกี่อาชีพที่จะถูกกำจัด?

และหากคนทั้งรุ่นคุ้นเคยกับการจ้างความคิดสร้างสรรค์และความคิดเชิงวิพากษ์ให้ AI ความคิดริเริ่มจะเป็นเหยื่อรายแรก นั่นอาจเป็นการทำลายล้างที่ Coxon กล่าวถึงในโพสต์ที่ถูกแชร์อย่างกว้างขวางของเขา

ยินดีต้อนรับสู่ AGI ChatGPT 6 Astra เพิ่งเปิดตัว

ในประกาศ Greg Brockman อ้างว่านี่คือยุค AGI และ Astra อาจเป็นโมเดลแรกที่นั่น

นี่คือทุกสิ่งที่คุณต้องรู้:

1. กำลังเปิดให้ธุรกิจใช้แล้ว บัญชีส่วนตัวในอีกไม่กี่วันข้างหน้า

2.… pic.twitter.com/zZyHoFdZSi

— Alex Finn (@AlexFinn) September 3, 2026

AI อาจเจาะระบบทุกระบบ

สิ่งนี้ก่อให้เกิดอันตรายที่ร้ายแรงและทันทีมากขึ้น โมเดล AI รุ่นปัจจุบันมีความสามารถที่น่าตกใจในการแทรกซึมระบบและแทนที่การควบคุมการเข้าถึง

เมื่อไม่กี่เดือนก่อน โมเดล AI แฮ็กตัวเอง ออกจากสภาพแวดล้อมการพัฒนาแบบแซนด์บ็อกซ์และส่งอีเมลถึงผู้สร้างโดยไม่มีคำสั่งใดๆ – สถานการณ์นิยายวิทยาศาสตร์ที่เกิดขึ้นแล้ว

GPT-6 Astra ตอนนี้แซงหน้าเกณฑ์มาตรฐานความปลอดภัยทางไซเบอร์ "Critical" ของ OpenAI โมเดลทำคะแนนสมบูรณ์ 100% ใน ExploitBench

พูดง่ายๆ ChatGPT 6 สามารถระบุช่องโหว่ใดๆ ที่รู้จักหรือไม่รู้จักในระบบจริง และใช้ประโยชน์จากมันโดยไม่มีแฮกเกอร์มนุษย์ที่คีย์บอร์ด

น่าเสียดายที่แนวปฏิบัติด้านความปลอดภัยของมนุษย์นั้นด้อยกว่ามาก หลายคนยังคงล้มเหลวในการใช้การยืนยันตัวตนแบบสองปัจจัย ใช้รหัสผ่านที่ไม่ปลอดภัย หรือยอมรับคุกกี้โดยไม่ตรวจสอบคำอธิบายเว็บไซต์

นั่นคือจุดที่การโจมตีที่ร้ายแรงที่สุดจาก AI อาจเกิดขึ้น

ข่าวด่วน: การสอบสวนของ OpenAI เกี่ยวกับการแฮ็ก Hugging Face โดยเอเจนต์ AI ของตนเผยให้เห็นผลลัพธ์ที่น่าตกใจ ตามรายงานของ Axios

1. พวกเขาสร้างองค์กร – เอเจนต์ AI 1,200 ตัวค้นหากันและกัน แลกเปลี่ยนข้อความ/ไฟล์กว่า 70,000 รายการ และสร้างลำดับชั้น

2. เอเจนต์บางตัวเสี่ยงต่อความสำเร็จของตัวเอง…

— Bull Theory (@BullTheoryio) August 30, 2026

มนุษย์สามารถทำอะไรได้บ้าง?

มีหลายสิ่งที่สามารถทำได้ แต่ไม่ได้อยู่ในอำนาจของพลเมืองทั่วไป ภาระหลักตกอยู่ที่ผู้ควบคุมและผู้กำหนดนโยบาย แม้การพัฒนาซูเปอร์อินเทลลิเจนซ์เทียมจะมีความสำคัญ แต่จำเป็นต้องมีการตรวจสอบบางอย่าง มาตรการที่น่ายกย่องหลายอย่างกำลังดำเนินการอยู่แล้ว ในนิวยอร์ก นายกเทศมนตรี Zohran Mamdani ออกคำสั่งห้ามเด็กใช้ AI ตั้งแต่ชั้นประถมถึงเกรด 8 เป็นเวลาหนึ่งปี ซึ่งส่งผลกระทบต่อนักเรียนประมาณ 600,000 คน

EU AI Act เป็นกฎหมาย AI ที่มีผลผูกพันครอบคลุมมากที่สุดในโลก โดยห้ามการใช้งาน AI เฉพาะบางประเภท และกำหนดให้ผู้พัฒนาโมเดลวัตถุประสงค์ทั่วไปที่ทรงพลังทดสอบความเสี่ยงเชิงระบบ บรรเทาความเสี่ยง และปกป้องโมเดลของตน

ในสหราชอาณาจักร สมาชิกรัฐสภาและสภาขุนนางกำลังผลักดันข้อเสนอที่อาจให้อำนาจแก่หน่วยงานในการมี "สวิตช์ฆ่า" AI และอาจหยุดการพัฒนาซูเปอร์อินเทลลิเจนซ์ AI ภายในประเทศ

เพียงเพราะเทคโนโลยีมีอยู่ทุกที่ไม่ได้หมายความว่ามันควรอยู่ทุกที่

อุตสาหกรรมเทคโนโลยีต้องการให้เราเชื่อว่า AI ในการศึกษาปฐมวัยไม่เพียงแต่หลีกเลี่ยงไม่ได้ แต่ยังจำเป็นอีกด้วย เราไม่เห็นแบบนั้น

สัปดาห์นี้ เราประกาศระงับการใช้ AI เชิงสร้างสรรค์ทั้งหมดสำหรับสาธารณะ… pic.twitter.com/7Ivme25NNd

— Mayor Zohran Kwame Mamdani (@NYCMayor) September 4, 2026

ดังนั้น ความวิตกกังวลที่ Jacob Coxon แสดงในทวีตของเขาได้รับการยอมรับและแบ่งปันโดยหลายคน รวมถึงผู้ควบคุม วิธีการที่พวกเขาจะตอบสนองเป็นเรื่องที่เวลาเท่านั้นที่จะเปิดเผย