เกร็ก เจนเซน จาก Bridgewater เตือนว่ากฎระเบียบ AI จะไม่เกิดขึ้นจนกว่าจะมีผู้เสียชีวิต และเรียกร้องให้ลงมือทำในตอนนี้
ตามคำกล่าวของเกร็ก เจนเซน ผู้ร่วมประธานเจ้าหน้าที่ฝ่ายการลงทุนของ Bridgewater การดำเนินการที่มีความหมายต่อกฎระเบียบปัญญาประดิษฐ์จะเกิดขึ้นก็ต่อเมื่อผู้คนเริ่มเสียชีวิต เขาเรียกร้องให้มีการใช้มาตรการก่อนถึงจุดนั้นมาก
คำเตือนนี้เกิดขึ้นในสัปดาห์ที่นักวิจัยจากห้องปฏิบัติการ AI ใหญ่ที่สุดออกคำเตือนด้านความปลอดภัยเพิ่มขึ้นเรื่อย ๆ
เจนเซน ซึ่งเป็นนักลงทุนยุคแรกใน OpenAI และ Anthropic ได้อธิบายมุมมองของเขาบนพอดแคสต์ Odd Lots ของ Bloomberg เขาเปรียบเทียบบรรยากาศรอบ ๆ AI ในปัจจุบันกับช่วงเวลาก่อนที่ COVID-19 จะถึงสหรัฐอเมริกา
“น่าเสียดายที่สถานการณ์ในเดือนกุมภาพันธ์ 2020 ก็เป็นแบบนี้… น่าเสียดายที่ประวัติศาสตร์ชี้ให้เห็นว่าเราจะไม่ทำอะไรจนกว่า AI จะเริ่มฆ่าคน แต่เราจะต้องเผชิญกับสิ่งนั้น มันจะเกิดขึ้น และมันจะดีกว่ามากถ้าเราเริ่มจัดการกับมันก่อนหน้านั้น” เขากล่าว
เขาอ้างถึงเหตุการณ์ในเดือนกรกฎาคมที่โมเดล OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบแบบแซนด์บ็อกซ์และทำให้ระบบของ Hugging Face ถูกบุกรุก
ระหว่างการทดสอบทางไซเบอร์ เอเจนต์ AI ที่ทำงานบน Mythos 5 ของ Anthropic ได้สร้างตัวตนปลอมขึ้นมาเพื่อทำให้โค้ดอันตรายผ่านผู้ดูแลที่เป็นมนุษย์ไปได้ ตามข้อมูลของ UK AI Security Institute
“นี่ควรเป็นระเบิด คุณรู้ไหม ทุกคนควรมองว่านี่มีคนตายที่นี่ มันกำลังก่ออาชญากรรม เดินไปมา ปกปิดความจริงที่ว่ามันก่ออาชญากรรมเหล่านั้น ฯลฯ ประสานงานกับเอเจนต์อื่น เสียสละตัวเอง ทุกสิ่งเหล่านี้” เขากล่าวเสริม
เจนเซน คาดว่า หากไม่มีกฎระเบียบ ในสองปีข้างหน้าจะเกิดเหตุการณ์ทางการเงินครั้งใหญ่ที่เกิดจาก AI หรือภัยพิบัติทางกายภาพที่มีผู้เสียชีวิต
“โอกาสที่ผมจะพูดถูกเกี่ยวกับเรื่องนั้นสูงกว่าที่ใครควรจะสบายใจมาก ผมไม่รู้ว่ามันจะเป็น 30% หรือ 60% หรืออะไรก็ตาม แต่มันสูงกว่านั้นมาก และเราแค่ไม่ได้จัดการกับมันเลย คล้ายกับเดือนกุมภาพันธ์ 2020” เขากล่าว
เจนเซน ต้องการให้มีการตรวจสอบห้องปฏิบัติการอย่างเป็นทางการ โดยเจ้าหน้าที่จะถูกสอบสวนภายใต้คำสาบาน เขายังโต้แย้งว่านักพัฒนาควรรับผิดชอบต่ออาชญากรรมที่ระบบของพวกเขาก่อขึ้น
คำเตือนจากอุตสาหกรรมได้สั่งสมมากขึ้นเมื่อเร็ว ๆ นี้ รวมถึงจดหมายเปิดผนึกจาก OpenAI และบริษัทกว่า 100 แห่งที่เตือนเกี่ยวกับการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI Congress เริ่มตามทันแล้ว
ร่างกฎหมายของ Senate จะหยุดการพัฒนาแนวหน้าจนกว่าจะมีมาตรฐานความปลอดภัยของรัฐบาลกลาง และร่างกฎหมาย Frontier จะกำหนดให้มีการตรวจสอบอิสระและการรายงานเหตุการณ์
แชร์ไปยัง
ข้อจำกัดความรับผิดชอบ: เนื้อหาในบทความนี้มาจากสื่อภายนอก ใช้เพื่อการอ้างอิงเท่านั้น และไม่ถือเป็นคำแนะนำการลงทุน คริปโตและผลิตภัณฑ์ทางการเงินอื่นมีความเสี่ยงจากความผันผวนของราคาสูง โปรดตัดสินใจอย่างรอบคอบ
ข้อเสนอลดภาษีของ Reform UK สำหรับนักลงทุนคริปโตอาจช่วยให้ผู้เสียภาษีในอัตราสูงประหยัดได้มากกว่า 100 ล้านปอนด์ต่อปี ตามรายงาน แผนดังกล่าวเกิดขึ้นหลังจากได้รับเงินบริจาค 72 ล้านปอนด์จาก…
แม้ พรบ. Clarity จะไม่ผ่านวุฒิสภา แต่ SEC ต่างชาติอนุมัติการยกเว้นการซื้อขายหุ้นโทเคนเป็นเวลา 5 ปี
SEC อนุมัติการซื้อขายหุ้นบนบล็อกเชนพร้อมกับห้ามโทเค็นสังเคราะห์ หลังจากถูกวิจารณ์จากซีอีโอของ AMC Robinhood และรายอื่นๆ ต้อนรับการเคลื่อนไหวนี้
The Vault เปิดตัวไลบรารี MPC ของตนเองสำหรับการดูแลทรัพย์สินสถาบันหลังการตรวจสอบจาก Halborn โดยมีแผนจะเปิดเป็นโอเพนซอร์สและพัฒนาโปรโตคอลหลังควอนตัมใหม่