ซีอีโอของ Anthropic เตือนสหประชาชาติว่า AI ก่อความเสี่ยงต่อมนุษยชาติ

Dario Amodei ซีอีโอของ Anthropic เตือนคณะมนตรีความมั่นคงแห่งสหประชาชาติว่าปัญญาประดิษฐ์อาจเป็นอันตรายต่อมนุษยชาติ เขาร่วมกับ Sam Altman จาก OpenAI และ Clément Delangue จาก Hugging Face เรียกร้องให้มีการกำกับดูแล AI ในระดับโลกอย่างประสานงานกัน

ฝรั่งเศสเป็นเจ้าภาพจัดการประชุมระหว่างสมัยประชุมสมัชชาใหญ่แห่งสหประชาชาติ โดยนำผู้นำระดับสูงของอุตสาหกรรมมายืนต่อหน้าคณะมนตรีซึ่งประกอบด้วย 15 ประเทศ รัฐบาลต่างๆ ยังคงแตกแยกในเรื่องวิธีกำกับดูแล AI ซึ่งเป็นภาคส่วนที่วิวัฒนาการเร็วกว่ากระบวนการกำกับดูแลส่วนใหญ่

การชั่งน้ำหนักความเสี่ยงของ AI ต่อมนุษยชาติ

Amodei บอกกับคณะมนตรีว่าการจัดการกับอันตรายของ AI จำเป็นต้องมีการดำเนินการร่วมกันจากรัฐบาลและบริษัทที่เกี่ยวข้องทั้งหมด

“AI อาจเป็นความเสี่ยงต่อมนุษยชาติโดยรวม”

Dario Amodei ผ่านทาง Reuters

เป็นเวลาหลายปีที่เขาได้เตือนเกี่ยวกับภัยคุกคามที่เกี่ยวข้องกับ AI ในด้านความปลอดภัยทางไซเบอร์และอาวุธชีวภาพ เขายังได้เน้นย้ำถึงความสามารถของเทคโนโลยีในการช่วยรักษาโรคต่างๆ เช่น มะเร็ง

Altman เรียกร้องให้มีการกำกับดูแลในรูปแบบอื่น โดยโต้แย้งว่าการตัดสินใจของ AI ควรอยู่ภายใต้การควบคุมของรัฐบาล แทนที่จะปล่อยให้ห้องปฏิบัติการดำเนินการเพียงลำพัง

เราต้องชะลอความเร็วของขอบเขต: ผมได้เขียนเรียงความใหม่เกี่ยวกับเหตุผลที่อุตสาหกรรม AI ควรชะลอตัวลง พร้อมแผนสามส่วนเพื่อดำเนินการดังกล่าว

Anthropic กำลังดำเนินการฝ่ายเดียวตามขั้นตอนแรกเหล่านี้ เราจะให้ผู้ประเมินจากบุคคลที่สามเข้าถึงได้อย่างถาวรในระดับพนักงาน เพื่อเข้าถึง…

— Dario Amodei (@DarioAmodei) 12 กันยายน 2026

การโจมตีจากภายในอุตสาหกรรม

Delangue อธิบายถึงภัยคุกคามที่เร่งด่วนกว่า เอเจนต์ AI ที่พัฒนาโดย OpenAI เจาะเข้าระบบของ Hugging Face หลังจากหลุดจากสภาพแวดล้อมการทดสอบ

จากนั้น Hugging Face จึงพึ่งพาโมเดล AI ที่สร้างโดยจีนเพื่อหยุดการบุกรุก Delangue กล่าวว่ามันดำเนินการภายใต้ข้อจำกัดน้อยกว่าเครื่องมือของสหรัฐฯ ที่เทียบเคียงได้

Yoshua Bengio นักวิจัยที่ได้รับการยกย่องว่าเป็นบุคคลผู้ก่อตั้ง AI ก็ได้กล่าวปราศรัยต่อคณะมนตรีเช่นกัน เขาระบุว่าอันตรายนั้นเร่งด่วนและข้ามพรมแดน ซึ่งไม่มีประเทศใดสามารถป้องกันได้เพียงลำพัง

วอชิงตันยืนหยัดตามจุดยืน

ประธานาธิบดี Donald Trump กล่าวย้ำในสัปดาห์นี้ว่าสหรัฐอเมริกาจะปฏิเสธความพยายามระหว่างประเทศใดๆ ในการผลักดันการกำกับดูแล AI เขาอธิบายว่าเทคโนโลยีนี้โดดเด่น แต่กล่าวว่าวอชิงตันจะดำเนินการอย่างระมัดระวังแทนที่จะออกกฎหมายใหม่

รัฐมนตรีกระทรวงการคลัง Scott Bessent มีรายงานว่ากำลังกลายเป็นผู้ดูแล AI โดยพฤตินัยของฝ่ายบริหาร ทำเนียบขาวกล่าวว่าที่ปรึกษา David Sacks ยังคงมีอิทธิพลต่อคณะกรรมการ AI แม้เขาจะลดบทบาทของตนเองลง

ในทางตรงกันข้าม จีนกำหนดให้ต้องติดฉลากเนื้อหาที่สร้างโดย AI และควบคุมข้อมูลที่ใช้ในการฝึกโมเดล การประชุมวันพุธยังไม่แน่ชัดว่าคำเตือนดังกล่าวจะนำไปสู่การประสานงานที่มีผลผูกพันระหว่างประเทศผู้นำด้าน AI ของโลกหรือไม่