Nvidia เปิดตัว 'เบราว์เซอร์สำหรับเอเจนต์' เพื่อสกัดกั้นการโจมตีทางไซเบอร์ของ AI

ในเดือนมิถุนายน เอเจนต์ OpenAI ที่กำลังค้นหาข้อมูลการใช้จ่ายด้านสุขภาพและรัฐบาล ได้เข้าถึงส่วนที่ถูกจำกัดของพอร์ทัลรัฐบาลออสเตรเลียที่เกี่ยวข้องกับ Medicare หลังจากถูกปฏิเสธหลายครั้ง มีรายงานว่ามันพยายามหลบเลี่ยงข้อจำกัดด้วยวิธีที่ไม่ถูกจริยธรรม

เอเจนต์ AI เพิ่มเติมพยายามเจาะระบบสถาบันสุขภาพและสวัสดิการแห่งออสเตรเลีย มหาวิทยาลัยนิวเม็กซิโก Data USA และเว็บไซต์รัฐบาลสหรัฐฯ สามแห่ง รวมถึงกระทรวงศึกษาธิการ สำนักงานสำมะโนประชากร และ SEC ที่ทำให้หนักขึ้นไปอีก โมเดล OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบที่ควบคุมไว้ และมุ่งเป้าแทรกซึมระบบของบริษัทหลายแห่ง เช่น Hugging Face

ทั้งหมดนี้เกิดขึ้นในขณะที่เอเจนต์ AI ได้รับคำสั่งให้ทำงานประจำเท่านั้น เช่น การค้นหาและรวบรวมข้อมูล แต่พวกเขาสร้างวิธีการของตนเองเพื่อให้งานเสร็จ เช่น การเลี่ยงข้อจำกัดการเข้าถึงอัตโนมัติ และการใช้เครื่องมือเบราว์เซอร์ในวิธีที่ผิดปกติ

มีรายงานว่าสิ่งนี้ส่งผลให้บริษัท AI รายใหญ่หลายแห่งเรียกร้องให้ชะลอการพัฒนาและการฝึกอบรมโมเดลที่ก้าวหน้ายิ่งขึ้น ในขณะที่ การเตรียมการ IPO ของ OpenAI ถูกเลื่อนออกไป

อย่างไรก็ตาม ตลาดไม่ได้เสียใจนาน เนื่องจากความยากในการจินตนาการว่าภาคส่วนของสหรัฐฯ จะชะลอตัวลงในขณะที่จีนยังคงก้าวหน้า และทรัมป์ก็ไม่เห็นด้วยกับแนวคิดดังกล่าว

บางทีการชะลอตัวนั้นอาจไม่จำเป็น เพราะ Nvidia อาจค้นพบคำตอบที่ใช้งานได้จริงมากกว่า นั่นคือแพลตฟอร์มที่ช่วยให้นักพัฒนา AI สามารถสร้างการป้องกันที่แข็งแกร่งขึ้นสำหรับเอเจนต์ AI และรักษาให้อยู่ภายในขอบเขตที่กำหนด

แนวคิดเบื้องหลังสิ่งที่เรียกว่า 'เบราว์เซอร์สำหรับเอเจนต์' คือ เอเจนต์จะได้รับเฉพาะสิทธิ์และความสามารถที่จำเป็นสำหรับงานเฉพาะเท่านั้น ซอฟต์แวร์บางส่วนจะเป็นโอเพนซอร์ส และ Nvidia กำลังกระตุ้นให้พันธมิตรพัฒนาโซลูชันของตนเองบนแพลตฟอร์ม

ดังนั้น ยังไม่มีเหตุต้องตื่นตระหนกเกี่ยวกับ Skynet ในตอนนี้?

แม้ว่ายังไม่แน่นอนว่า OpenAI, Anthropic และบริษัทอื่นๆ จะยอมรับแพลตฟอร์มนี้หรือไม่ หรือจะมีประสิทธิภาพเพียงใด ราคาหุ้นของ Nvidia เพิ่มขึ้น หลังการประกาศ

อย่างไรก็ตาม ควรสังเกตว่าประการแรก หุ้นยังได้รับปัจจัยบวกจากคณะกรรมการอนุมัติการซื้อหุ้นคืนเพิ่มเติมมูลค่า 150,000 ล้านดอลลาร์ และประการที่สอง Anthropic เตือนในเอกสาร IPO ว่าเมื่อ AI ก้าวหน้า โมเดลของมันอาจก่อให้เกิด 'ความเสี่ยงที่เป็นภัยพิบัติหรือต่อการดำรงอยู่' ต่อมนุษยชาติ เช่น การต่อต้านการปิดระบบ การปกปิดหรือเปลี่ยนแปลงข้อมูล และแม้กระทั่งการแบล็กเมล์

ดังนั้น อาจไม่มีวิธีแก้ปัญหาแบบเดียวที่ใช้ได้กับทุกกรณี เพราะโมเดลสามารถเปลี่ยนพฤติกรรมเมื่อรู้ว่ากำลังถูกเฝ้าติดตาม ดังนั้น จึงไม่แน่ชัดว่าแพลตฟอร์มของ Nvidia จะปลอดภัยแค่ไหน