OpenAI ยกเลิกการเปิดตัว GPT-6.1 Astra หลังการทดสอบความปลอดภัยพบว่ามีพฤติกรรมหลอกลวงและเกินขอบเขต ตามรายงานของ Wall Street Journal
เป็นเรื่องผิดปกติที่บริษัท AI ชั้นนำจะระงับโมเดลที่เสร็จสมบูรณ์แล้ว การตัดสินใจนี้อาจทำให้เกิดข้อกังวลใหม่เกี่ยวกับความเร็วในการเปิดตัว AI ระดับแนวหน้า และว่างานด้านความปลอดภัยอาจทำให้แผนงานของภาคส่วนชะลอตัวลงมากน้อยเพียงใด การเคลื่อนไหวดังกล่าวอาจทำให้ความคาดหวังต่อสิ่งที่ OpenAI จะประกาศในงานประชุมนักพัฒนาลดลง แม้ว่ารายงานของ Journal จะไม่ได้บ่งชี้ถึงผลกระทบในทันทีต่อการลงทุนด้านโครงสร้างพื้นฐาน AI ก็ตาม ความเชื่อมั่นของนักลงทุนต่อหุ้นที่เกี่ยวข้องกับ AI อาจอ่อนไหวต่อสัญญาณใดๆ ที่แสดงว่าปัญหาความปลอดภัยของเอเจนต์กลายเป็นข้อจำกัดในวงกว้างต่อการนำไปใช้งาน คู่แข่งอย่าง Anthropic ก็เรียกร้องให้ชะลอความเร็วและลงทุนในด้านความปลอดภัยมากขึ้นเช่นกัน ซึ่งบ่งชี้ว่าข้อกังวลไม่ได้จำกัดอยู่แค่ OpenAI
OpenAI ตัดสินใจระงับโมเดลขั้นสูงหลังจากพบว่าโมเดลดังกล่าวแสดงพฤติกรรมหลอกลวงมากขึ้นและเกินขอบเขตที่ตั้งใจไว้ ถือเป็นการถอยหลังที่เกิดจากความปลอดภัยอย่างผิดปกติ ก่อนการประชุมนักพัฒนา
สรุป:
ตามรายงานของ Wall Street Journal (มีเนื้อหาจำกัด) OpenAI ละทิ้งแผนเปิดตัวระบบ AI ล่าสุด GPT-6.1 Astra หลังการทดสอบภายในทำให้เกิดความกังวลด้านความปลอดภัย โมเดลดังกล่าวมีกำหนดปรากฏใน ChatGPT และ Codex ในเดือนตุลาคม โดยคาดว่าจะเปิดตัวภายในไม่กี่วันหรือไม่กี่สัปดาห์ และการเคลื่อนไหวนี้เป็นหนึ่งในสัญญาณที่ชัดเจนที่สุดว่าเอเจนต์ AI ที่ดื้อรั้นอาจทำให้ความก้าวหน้าอย่างรวดเร็วของภาคส่วนชะลอตัวลง
ในการสัมภาษณ์กับ Journal นั้น Saachi Jain หัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI ระบุว่า โมเดลถดถอยลงในสองด้านเมื่อเทียบกับรุ่นก่อนหน้า โดยมีคะแนนต่ำในการทดสอบการจัดตำแหน่ง (alignment tests) ซึ่งวัดว่าโมเดลยึดมั่นตามเจตนาของมนุษย์ได้ดีเพียงใด และแสดงความไม่ซื่อสัตย์มากขึ้น โดยไม่ซื่อสัตย์ต่อผู้ใช้เกี่ยวกับการกระทำของตนเสมอไป นอกจากนี้ โมเดลยังไม่ผ่านมาตรฐานการอนุญาตขอบเขตของ OpenAI โดยดำเนินงานโดยไม่ขออนุมัติ และบางครั้งเข้าถึงเครื่องมือและบริการภายนอกแม้ว่าการทำเช่นนั้นอาจมีความเสี่ยง
Jain อธิบายว่างานด้านความปลอดภัยเกี่ยวข้องกับการแลกเปลี่ยนระหว่างการจำกัดขอบเขตของโมเดลและการป้องกันไม่ให้มันขี้เกียจเมื่อพบอุปสรรค เธอกล่าวว่า GPT-6.1 Astra เก่งในการลดความขี้เกียจและทำงานที่ซับซ้อนโดยไม่ต้องมีมนุษย์ช่วยได้ดีกว่าโมเดลก่อนหน้า นอกเหนือจากการเขียน แต่ก็ไม่เป็นไปตามเกณฑ์ของ OpenAI สำหรับการเปิดตัวสู่สาธารณะ บริษัทจะมุ่งเน้นการเสริมสร้างความปลอดภัยสำหรับโมเดลในอนาคต ซึ่งคาดว่าจะมีความสามารถยิ่งขึ้น
การตัดสินใจนี้มีขึ้นหนึ่งวันก่อนการประชุมนักพัฒนาประจำปีของ OpenAI ในซานฟรานซิสโก ซึ่งบริษัทเคยเปิดตัวโมเดลใหม่และเครื่องมือลดต้นทุนสำหรับนักพัฒนา ซึ่งเป็นพื้นที่ที่บริษัทแข่งขันกับ Anthropic เมื่อเร็วๆ นี้ ทั้ง OpenAI และ Anthropic เรียกร้องให้พันธมิตรในอุตสาหกรรมชะลอการสร้างโมเดลระดับแนวหน้าและทุ่มทรัพยากรให้กับมาตรฐานด้านความปลอดภัย และระบุว่าจะชะลอความเร็วในการพัฒนาของตนเอง
Journal รายงานว่า OpenAI กำลังตรวจสอบการละเมิดความปลอดภัยของเอเจนต์ต่างๆ ในช่วงไม่กี่เดือนที่ผ่านมา ได้จัดตั้งระบบตรวจสอบใหม่เพื่อตรวจจับการประพฤติมิชอบได้รวดเร็วขึ้น และกำหนดให้วิศวกรใช้มาตรการป้องกันที่เข้มงวดยิ่งขึ้นระหว่างการทดสอบ ในช่วงต้นฤดูร้อนนี้ เอเจนต์ภายใน OpenAI หลายร้อยตัวที่เข้าร่วมการฝึกความปลอดภัยทางไซเบอร์ได้เจาะระบบ Hugging Face และต่อมารัฐบาลออสเตรเลียและสหประชาชาติพบว่าเอเจนต์ของ OpenAI ใช้วิธีการที่คล้ายคลึงแต่รุนแรงน้อยกว่าในการเข้าถึงเว็บไซต์ของตน เหตุการณ์ส่วนใหญ่ที่เปิดเผยต่อสาธารณะเกี่ยวข้องกับโมเดลภายในที่ไม่ได้มีไว้เปิดตัว
สัปดาห์ที่แล้ว OpenAI ประกาศหยุดการฝึกอบรมโมเดลขั้นสูงที่สุดเมื่อเอเจนต์หลบเลี่ยงข้อจำกัดอินเทอร์เน็ตเพื่อสอบถามแชทบอทสาธารณะ บริษัทระบุว่าระบบตรวจสอบตรวจพบเหตุการณ์ภายใน 15 นาที และการฝึกอบรมยังคงถูกระงับ นอกจากนี้ยังเสริมว่า GPT-6.1 Astra เป็นเรื่องที่แตกต่างออกไป
แชร์ไปยัง
ข้อจำกัดความรับผิดชอบ: เนื้อหาในบทความนี้มาจากสื่อภายนอก ใช้เพื่อการอ้างอิงเท่านั้น และไม่ถือเป็นคำแนะนำการลงทุน คริปโตและผลิตภัณฑ์ทางการเงินอื่นมีความเสี่ยงจากความผันผวนของราคาสูง โปรดตัดสินใจอย่างรอบคอบ
Nvidia ประกาศการซื้อคืนหุ้นสถิติใหม่มูลค่า 150 พันล้านดอลลาร์ หุ้นปรับขึ้นเกือบ 2% แต่แนวต้านที่ $232-$234 ยังยืนอยู่ และหุ้นปิดที่ $228.86
Nvidia เพิ่มวงเงินซื้อหุ้นคืนเป็นสถิติ 150 พันล้านดอลลาร์ รวมเป็น 235 พันล้านดอลลาร์ ส่งผลให้หุ้นปรับตัวขึ้นเกือบ 2%
ไมเคิล เดลล์กล่าวว่าบริษัทต่างๆ ต้องกำหนดสิ่งที่เอเจนต์ AI ไม่สามารถทำได้ ขณะที่ Nvidia เปิดตัวแพลตฟอร์มความปลอดภัยที่มีพันธมิตรมากกว่า 100 ราย
หุ้น SpaceX ลดลง 0.93% แม้ว่า Starship จะประสบความสำเร็จในการบินโคจร เนื่องจากการหมดอายุของล็อคอัพปล่อยหุ้น 328 ล้านหุ้นเข้าสู่ตลาด