เกร็ก เจนเซน จาก Bridgewater เตือนว่ากฎระเบียบ AI จะไม่เกิดขึ้นจนกว่าจะมีผู้เสียชีวิต และเรียกร้องให้ลงมือทำในตอนนี้
ตามคำกล่าวของเกร็ก เจนเซน ผู้ร่วมประธานเจ้าหน้าที่ฝ่ายการลงทุนของ Bridgewater การดำเนินการที่มีความหมายต่อกฎระเบียบปัญญาประดิษฐ์จะเกิดขึ้นก็ต่อเมื่อผู้คนเริ่มเสียชีวิต เขาเรียกร้องให้มีการใช้มาตรการก่อนถึงจุดนั้นมาก
คำเตือนนี้เกิดขึ้นในสัปดาห์ที่นักวิจัยจากห้องปฏิบัติการ AI ใหญ่ที่สุดออกคำเตือนด้านความปลอดภัยเพิ่มขึ้นเรื่อย ๆ
เจนเซน ซึ่งเป็นนักลงทุนยุคแรกใน OpenAI และ Anthropic ได้อธิบายมุมมองของเขาบนพอดแคสต์ Odd Lots ของ Bloomberg เขาเปรียบเทียบบรรยากาศรอบ ๆ AI ในปัจจุบันกับช่วงเวลาก่อนที่ COVID-19 จะถึงสหรัฐอเมริกา
“น่าเสียดายที่สถานการณ์ในเดือนกุมภาพันธ์ 2020 ก็เป็นแบบนี้… น่าเสียดายที่ประวัติศาสตร์ชี้ให้เห็นว่าเราจะไม่ทำอะไรจนกว่า AI จะเริ่มฆ่าคน แต่เราจะต้องเผชิญกับสิ่งนั้น มันจะเกิดขึ้น และมันจะดีกว่ามากถ้าเราเริ่มจัดการกับมันก่อนหน้านั้น” เขากล่าว
เขาอ้างถึงเหตุการณ์ในเดือนกรกฎาคมที่โมเดล OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบแบบแซนด์บ็อกซ์และทำให้ระบบของ Hugging Face ถูกบุกรุก
ระหว่างการทดสอบทางไซเบอร์ เอเจนต์ AI ที่ทำงานบน Mythos 5 ของ Anthropic ได้สร้างตัวตนปลอมขึ้นมาเพื่อทำให้โค้ดอันตรายผ่านผู้ดูแลที่เป็นมนุษย์ไปได้ ตามข้อมูลของ UK AI Security Institute
“นี่ควรเป็นระเบิด คุณรู้ไหม ทุกคนควรมองว่านี่มีคนตายที่นี่ มันกำลังก่ออาชญากรรม เดินไปมา ปกปิดความจริงที่ว่ามันก่ออาชญากรรมเหล่านั้น ฯลฯ ประสานงานกับเอเจนต์อื่น เสียสละตัวเอง ทุกสิ่งเหล่านี้” เขากล่าวเสริม
เจนเซน คาดว่า หากไม่มีกฎระเบียบ ในสองปีข้างหน้าจะเกิดเหตุการณ์ทางการเงินครั้งใหญ่ที่เกิดจาก AI หรือภัยพิบัติทางกายภาพที่มีผู้เสียชีวิต
“โอกาสที่ผมจะพูดถูกเกี่ยวกับเรื่องนั้นสูงกว่าที่ใครควรจะสบายใจมาก ผมไม่รู้ว่ามันจะเป็น 30% หรือ 60% หรืออะไรก็ตาม แต่มันสูงกว่านั้นมาก และเราแค่ไม่ได้จัดการกับมันเลย คล้ายกับเดือนกุมภาพันธ์ 2020” เขากล่าว
เจนเซน ต้องการให้มีการตรวจสอบห้องปฏิบัติการอย่างเป็นทางการ โดยเจ้าหน้าที่จะถูกสอบสวนภายใต้คำสาบาน เขายังโต้แย้งว่านักพัฒนาควรรับผิดชอบต่ออาชญากรรมที่ระบบของพวกเขาก่อขึ้น
คำเตือนจากอุตสาหกรรมได้สั่งสมมากขึ้นเมื่อเร็ว ๆ นี้ รวมถึงจดหมายเปิดผนึกจาก OpenAI และบริษัทกว่า 100 แห่งที่เตือนเกี่ยวกับการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI Congress เริ่มตามทันแล้ว
ร่างกฎหมายของ Senate จะหยุดการพัฒนาแนวหน้าจนกว่าจะมีมาตรฐานความปลอดภัยของรัฐบาลกลาง และร่างกฎหมาย Frontier จะกำหนดให้มีการตรวจสอบอิสระและการรายงานเหตุการณ์
แชร์ไปยัง
ข้อจำกัดความรับผิดชอบ: เนื้อหาในบทความนี้มาจากสื่อภายนอก ใช้เพื่อการอ้างอิงเท่านั้น และไม่ถือเป็นคำแนะนำการลงทุน คริปโตและผลิตภัณฑ์ทางการเงินอื่นมีความเสี่ยงจากความผันผวนของราคาสูง โปรดตัดสินใจอย่างรอบคอบ
CERT-In เตือนเกี่ยวกับกลุ่มที่ใช้ AI ชื่อ CRAFTY FALCON ที่กำลังขโมยคีย์กระเป๋าเงินจากคริปโเอ็กซ์เชนจ์และทำให้เกิดการโอนเงินโดยไม่ได้รับอนุญาตผ่านระบบชำระเงินของฟินเทค.
หน่วยงานกำกับดูแลของจีนได้แจ้ง SoftBank ว่าการซื้อกิจการหุ่นยนต์ของ ABB มูลค่า 5.4 พันล้านดอลลาร์ถูกบล็อก รายงานของ FT ระบุ ส่งผลกระทบต่อการผลักดัน AI ของ Son
พรรคเดโมแครตในสภาผู้แทนราษฎรกำลังร่างกฎหมายคริปโทที่จะเพิ่มการกำกับดูแลของ SEC และกำหนดเป้าหมายรายได้จากคริปโทของทรัมป์ แต่การต่อต้านจากพรรครีพับลิกันกำลังมา.
ผู้พิพากษาของรัฐบาลกลางปฏิเสธคำร้องเพื่อหยุดการซื้อขายสัญญาซื้อขายล่วงหน้าถาวรของหุ้น โดยพบว่า CFTC น่าจะขาดอำนาจ แต่โจทก์ไม่สามารถแสดงให้เห็นถึงความเสียหายที่ไม่สามารถเยียวยาได้