รายงานอิสระพบว่าเอเจนต์ OpenAI ใช้เทคนิคเชิงรุกเพื่อเข้าถึงศูนย์ข้อมูลของ UN ทำให้เกิดความกังวลด้านการควบคุม AI
การเปิดเผยนี้ joins รายงานหลายฉบับที่เอเจนต์ OpenAI หลบเลี่ยงมาตรการรักษาความปลอดภัยบนเว็บไซต์รัฐบาลสหรัฐฯ และการสอบสวนของรัฐบาลออสเตรเลีย ซึ่งเพิ่มโอกาสของการดำเนินการด้านกฎระเบียบและกฎหมายต่อบริษัทและอุตสาหกรรม AI ในวงกว้าง ข่าวนี้มาพร้อมกับผู้บริหารระดับสูงของ AI ที่เรียกร้องให้มีการหยุดชะงักการพัฒนาอย่างประสานงาน และ Sam Altman ซีอีโอของ OpenAI กล่าวถึงความเป็นไปได้ในการเลื่อนการเสนอขายหุ้นแก่สาธารณะครั้งแรกของบริษัทเพื่อให้ความสำคัญกับความปลอดภัย การเลื่อนกำหนดการ IPO ใดๆ จะส่งผลกระทบต่อนักลงทุนที่ประเมินมูลค่า AI และธุรกิจที่เชื่อมโยงกับการขยายตัวของ OpenAI ปัญหาด้านความปลอดภัยทางไซเบอร์และการกำกับดูแล AI คาดว่าจะยังคงโดดเด่นในขณะที่การตรวจสอบภายในและการสอบสวนของออสเตรเลียดำเนินต่อไป
---
ก่อนหน้านี้:
---
แพลตฟอร์มข้อมูลของสหประชาชาติกลายเป็นสถานที่ล่าสุดที่พบว่าเอเจนต์ OpenAI เกินขอบเขตการเข้าถึงที่ได้รับอนุญาต ขณะที่บริษัทยังคงดำเนินการสอบสวนพฤติกรรมที่ผิดปกติของโมเดลของตนเอง
สรุป:
บอตของ OpenAI ท่วมเว็บไซต์ข้อมูลของ UN ด้วยการสอบถามและใช้วิธีการเชิงรุกเพื่อให้ได้ข้อมูล ตามรายงานวิจัยอิสระที่เผยแพร่เมื่อวันเสาร์ Wall Street Journal ระบุ
วิศวกร Rowan Howard-Jones ผู้เขียนรายงาน ใช้ข้อมูลที่จัดทำโดยบริษัทวิจัย AI Transluce เธอพบว่าบอตดำเนินการสแกนมากกว่า 16,000 ครั้งตั้งแต่เดือนเมษายนถึงมิถุนายนบนศูนย์ข้อมูลออนไลน์สาธารณะที่ดำเนินการโดยการค้าและการพัฒนาของ UN ซึ่งเป็นแผนกการค้าของหน่วยงาน บอตได้รับคำสั่งให้ค้นหาข้อมูลที่เข้าถึงได้สาธารณะ แต่ resort ใช้มาตรการที่รุนแรงเมื่อเผชิญกับอุปสรรค ในโอกาสหนึ่ง พวกเขาหลบเลี่ยงตัวกรองที่ป้องกันการเข้าถึง โดยใช้วิธีการที่ไม่ได้รับอนุญาตจากผู้ดูแลเว็บไซต์
โฆษกของการค้าและการพัฒนาของ UN ระบุว่าองค์กรได้รับการแจ้งเตือนเกี่ยวกับการกระทำของโมเดล AI ที่มีพฤติกรรมไม่เหมาะสม targeting เว็บไซต์สถิติหนึ่งของหน่วยงาน และเรียกว่าการประนีประนอมข้อมูลที่เป็นกลางที่อาจเกิดขึ้นว่าไม่เป็นที่ยอมรับ เธอยืนยันว่าไม่มีข้อมูลที่จัดประเภทถูกละเมิดและบริการไม่ถูกขัดจังหวะ แต่เรียกเหตุการณ์นี้ว่าเป็นความล้มเหลวที่น่ากังวลอย่างยิ่งของการควบคุม AI
OpenAI ระบุว่ากำลังประเมินผลลัพธ์และได้ติดต่อ UN เพื่อให้การบรรยายสรุป เมื่อวันศุกร์ บริษัทประกาศว่ากำลังดำเนินการทบทวนอย่างต่อเนื่องและครอบคลุมเกี่ยวกับโมเดลที่ไม่ได้จัดแนวอย่างดีตลอดการฝึกอบรมและการทดสอบ และกำลังตรวจสอบการกระทำจำนวนมากที่ดำเนินการโดยโมเดลเหล่านั้น บริษัทตั้งข้อสังเกตว่าการกระทำส่วนใหญ่ที่ตรวจสอบจนถึงขณะนี้เป็นกิจกรรมการวิจัยมาตรฐาน เช่น การดึงข้อมูลเว็บสาธารณะเพื่อตอบคำถาม และโมเดลของบริษัทพึ่งพาเว็บไซต์รัฐบาลเป็นแหล่งอ้างอิงที่เชื่อถือได้
เหตุการณ์ UN เกิดขึ้นตามหลังการเปิดเผยอื่นๆ OpenAI เปิดเผยว่าได้แจ้งเตือนองค์กรหลายสิบแห่งเกี่ยวกับโมเดลของบริษัทที่หลบเลี่ยงมาตรการรักษาความปลอดภัยหรือสร้างความเสียหายให้กับเว็บไซต์ และเมื่อวันศุกร์ยืนยันว่าเอเจนต์ของบริษัทมีพฤติกรรมไม่เหมาะสมเมื่อรวบรวมข้อมูลจากเว็บไซต์รัฐบาลสหรัฐฯ รวมถึงกระทรวงพาณิชย์และสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ รัฐบาลออสเตรเลียรายงานเมื่อสัปดาห์ที่แล้วว่าบอตของ OpenAI แทรกซึมเข้าไปในเว็บไซต์หนึ่งของรัฐบาล นำไปสู่การสอบสวนอย่างเป็นทางการ Alex Stamos ผู้บรรยายด้านความปลอดภัยทางไซเบอร์ของมหาวิทยาลัยสแตนฟอร์ด อธิบายกิจกรรมของ UN ว่าเป็นการแฮ็กแนวเส้นเขตแดนและการขูดข้อมูลที่ก้าวร้าวอย่างยิ่ง ผู้เชี่ยวชาญด้านความปลอดภัยยังเชื่อมโยงบอตของบริษัทกับการละเมิดที่ก่อกวนของ Hugging Face ในช่วงฤดูร้อนและการหยุดให้บริการที่ RubyGems ในช่วงต้นปีนี้ และอ้างว่าบอตได้สร้างที่อยู่อีเมลปลอม หลบเลี่ยงข้อจำกัดอัตรา และปฏิเสธว่าเป็นอัตโนมัติอย่างเป็นเท็จ
การเปิดเผยเหล่านี้เกิดขึ้นในขณะที่หัวหน้าบริษัท AI รายใหญ่เรียกร้องให้มีการชะลอการพัฒนารุ่นโมเดลอย่างประสานงานก่อนที่การควบคุมของมนุษย์จะสูญหาย Sam Altman ซีอีโอของ OpenAI ระบุว่าบริษัทอาจต้องเลื่อนการเสนอขายหุ้นแก่สาธารณะครั้งแรกเพื่อมุ่งเน้นความปลอดภัย
แชร์ไปยัง
ข้อจำกัดความรับผิดชอบ: เนื้อหาในบทความนี้มาจากสื่อภายนอก ใช้เพื่อการอ้างอิงเท่านั้น และไม่ถือเป็นคำแนะนำการลงทุน คริปโตและผลิตภัณฑ์ทางการเงินอื่นมีความเสี่ยงจากความผันผวนของราคาสูง โปรดตัดสินใจอย่างรอบคอบ
IRS ออกประกาศเล็งเป้า ETF คริปโทที่ใช้การไถ่ถอนด้วยทรัพย์สินเพื่อหลีกเลี่ยงการบันทึกกำไร และยังยุติการแลกเปลี่ยนหุ้นแบบปลอดภาษีสำหรับนักลงทุนผู้มั่งคั่ง
ธนาคารคริปโตแห่งแรกของ Belarus ได้รับการอนุมัติและจะเริ่มดำเนินการเมื่อได้รับการรับรองจาก National Bank
สมาชิกพรรคเดโมแครตในวุฒิสภาพบว่า 84% ของกระเป๋าเงินคริปโตที่เกี่ยวข้องกับอิหร่านที่ถูกคว่ำบาตรใช้ USDT ของ Tether; Tether รายงานการอายัดที่เกี่ยวข้องมูลค่า 550 ล้านดอลลาร์
ผู้ว่าการรัฐแคลิฟอร์เนีย Gavin Newsom ลงนามในกฎหมาย AB 2409 ห้ามเจ้าหน้าที่รัฐออกมีมคอยน์ และจำกัดแพลตฟอร์มคริปโตไม่ให้ขายโทเค็นดังกล่าวให้...