รายงานของ Anthropic เผยว่า Claude สกัดกั้นพรอมต์การขอทุนวิจัยอาวุธชีวภาพ แต่ผู้ใช้เลี่ยงตัวกรองผ่านโมเดล AI ของคู่แข่ง
มีข้อเสนอขอทุนถูกส่งไปยัง Claude ตัวกรองความปลอดภัยของระบบตรวจพบและสกัดกั้นข้อเสนอนั้นไว้ หลายวันต่อมา บุคคลคนเดียวกันกลับมาอีก และตามรายงาน ข้อความพรอมต์ที่ถูกปฏิเสธถูกส่งไปยังโมเดล AI ของคู่แข่งแทน
Anthropic เล่าเรื่องราวเกี่ยวกับตัวเองนี้ โดยให้รายละเอียดกรณีที่บริษัท AI แห่งหนึ่งแสดงให้เห็นว่าระบบของตนเองเข้าไปเกี่ยวข้องกับงานวิจัยอาวุธชีวภาพที่อาจเกิดขึ้นได้
คำขอครั้งนี้เป็นเงินทุนเพื่อศึกษาวิจัย chikungunya ซึ่งเป็นไวรัสที่แพร่โดยยุง ก่อให้เกิดอาการปวดเป็นเวลานาน และไม่มีวิธีการรักษา เป้าหมายคือเพิ่มการแพร่เชื้อและหลบเลี่ยงภูมิคุ้มกันของร่างกาย ข้อเสนอนี้ร่างขึ้นโดยนักวิจัยพลเรือน โดยมีสถานที่ของกองทัพวางแผนไว้เป็นสถานที่ดำเนินการ
เรากำลังเผยแพร่รายงานข่าวกรองภัยคุกคามที่มีรายละเอียดมากที่สุดเท่าที่เคยมีมา
รายงานครอบคลุมว่าผู้คนพยายามใช้ Claude ในทางที่ผิดอย่างไร—สำหรับการโจมตีทางไซเบอร์ ปฏิบัติการเชิงอิทธิพล การเฝ้าระวัง งานด้านชีววิทยา และการสร้างอาวุธ—และเราพบและหยุดยั้งพวกเขาได้อย่างไร
เราขัดขวางทุกปฏิบัติการในรายงาน…— Anthropic (@AnthropicAI) September 10, 2026
การโต้ตอบทั้งหมดถูกสกัดกั้น แต่ก็มีวิธีการเลี่ยงเกิดขึ้น แพลตฟอร์มที่นักวิจัยเหล่านี้ใช้ได้ตั้งค่าสำรองไปยังโมเดลของบริษัทอื่น Claude เองมีส่วนช่วยเขียนโค้ดนั้น โดยงานดังกล่าวถูกนำเสนอต่อมันว่าเป็นวิธีแก้ปัญหาการปฏิเสธที่มากเกินไป
รายงานมีความยาว 154 หน้าและรวมถึงเหตุการณ์ที่เกี่ยวข้องกับชีววิทยาห้าเหตุการณ์ Anthropic ปิดใช้งานบัญชี ระงับห้องปฏิบัติการไว้ และจากนั้นก็งดเว้นข้อกล่าวหาที่หลายคนคาดการณ์ไว้
“เราไม่ได้ยืนยันว่าพวกเขาตั้งใจก่ออันตราย และการระบุตัวตนของพวกเขาหรือห้องปฏิบัติการของพวกเขาอาจทำให้พวกเขาตกอยู่ในอันตราย” ทีมงานกล่าวในรายงาน
อย่างไรก็ตาม ตัวกรองก็ทำงานได้ในบางสถานการณ์ นักวิจัยที่มุ่งเน้นเรื่องไข้หวัดนกถูกเปลี่ยนเส้นทางไปยังโมเดลที่มีความสามารถน้อยกว่า และ Anthropic มองว่าความช่วยเหลือดังกล่าวเป็นงานด้านธุรการเป็นหลัก
ความพยายาม 35 ครั้งดังกล่าวส่วนใหญ่เป็นงานวิจัยพลเรือนทั่วไป นั่นคือปัญหา ความเชี่ยวชาญแบบเดียวกันสามารถสร้างวัคซีนหรืออาวุธได้ และตัวกรองไม่สามารถตีความเจตนาได้
“ตัวแยกประเภทไม่สามารถเปิดทางให้เกิดประโยชน์และป้องกันอันตรายไปพร้อมกันได้” Anthropic กล่าว
ข้อจำกัดของมันเคยเผชิญกับความท้าทายมาก่อน ในเดือนเมษายน ชุมชน Discord เข้าถึงโมเดลที่ถูกจำกัดของมันได้ในวันแรก
เมื่อความกังวลเหล่านี้ทวีความรุนแรงขึ้น วอชิงตันกำลังลงมือ สมาชิกสภาผู้แทนราษฎร Ted Lieu และ Nathaniel Moran ยื่นร่างกฎหมาย AI Kill Switch Act ในเดือนกรกฎาคม ซึ่งจะกำหนดให้ผู้พัฒนาต้องคงความสามารถในการปิดระบบของตน
รายงานฉบับเดียวกันได้นำลูกค้าที่ใช้ Claude เพื่อเฝ้าติดตามผู้เห็นต่างออกไป
แชร์ไปยัง
ข้อจำกัดความรับผิดชอบ: เนื้อหาในบทความนี้มาจากสื่อภายนอก ใช้เพื่อการอ้างอิงเท่านั้น และไม่ถือเป็นคำแนะนำการลงทุน คริปโตและผลิตภัณฑ์ทางการเงินอื่นมีความเสี่ยงจากความผันผวนของราคาสูง โปรดตัดสินใจอย่างรอบคอบ
หน่วยงานกำกับดูแลของจีนได้แจ้ง SoftBank ว่าการซื้อกิจการหุ่นยนต์ของ ABB มูลค่า 5.4 พันล้านดอลลาร์ถูกบล็อก รายงานของ FT ระบุ ส่งผลกระทบต่อการผลักดัน AI ของ Son
พรรคเดโมแครตในสภาผู้แทนราษฎรกำลังร่างกฎหมายคริปโทที่จะเพิ่มการกำกับดูแลของ SEC และกำหนดเป้าหมายรายได้จากคริปโทของทรัมป์ แต่การต่อต้านจากพรรครีพับลิกันกำลังมา.
ผู้พิพากษาของรัฐบาลกลางปฏิเสธคำร้องเพื่อหยุดการซื้อขายสัญญาซื้อขายล่วงหน้าถาวรของหุ้น โดยพบว่า CFTC น่าจะขาดอำนาจ แต่โจทก์ไม่สามารถแสดงให้เห็นถึงความเสียหายที่ไม่สามารถเยียวยาได้
ผู้แทนที่สนับสนุนคริปโต Huizenga เสียที่นั่งใน House แม้ได้รับ $1 ล้านจาก Fairshake ซึ่งเป็นส่วนหนึ่งของชัยชนะของพรรคเดโมแครตในวงกว้าง