ข้ออ้างว่าไม่มีภาพหลอนของ Jev AI ถูกตรวจสอบหลังจากที่ผู้สร้าง RLHF ยอมรับ

Diogo Almeida ผู้ประกาศตัวเองว่าเป็น 'ผู้ร่วมสร้าง' ChatGPT กำลังดำเนินการผลักดันการตลาดไวรัลสำหรับ AI ใหม่ที่ชื่อว่า Jev โมเดลนี้สร้างขึ้นจากผลงานของเขากับ RLHF ซึ่งเป็นเทคโนโลยีหลักของแชทบอทของ OpenAI

อย่างไรก็ตาม ตอนนี้เขายอมรับว่าผลงานของตัวเองมีข้อบกพร่อง

สตาร์ทอัพ TypeSafe ของ Almeida ออกจากโหมดลับในเดือนนี้ โดยได้รับเงินทุนเริ่มต้น 40 ล้านดอลลาร์ การนำเสนอของบริษัทอ้างว่าเขาแก้ปัญหาภาพหลอนที่พบขณะทำงานกับ ChatGPT ได้

แต่การนำเสนอสำหรับตัวโมเดล Jev เองน่าสนใจน้อยกว่าและทำให้เกิดข้อสงสัยบางประการ

ประการแรก การอ้างว่าเขา 'ร่วมสร้าง ChatGPT' ไม่ถูกต้องทั้งหมด

Almeida ปรากฏเป็นอันดับที่สี่จากผู้เขียน 20 คนในเอกสาร InstructGPT ปี 2022 ซึ่งใช้ RLHF กับโมเดลภาษา เอกสารนั้นเป็นเพียงหนึ่งในหลายแหล่งข้อมูลที่นักพัฒนา ChatGPT ใช้

บทบาทของเขาถูกลดทอนลงอีกโดยเชิงอรรถใน PDF ซึ่งระบุ Almeida เป็นหนึ่งในผู้เขียน 'หลัก' เก้าคน ไม่ใช่ผู้นำ

ยิ่งไปกว่านั้น RLHF มีอยู่ก่อนเอกสารนั้นเกือบห้าปี และวิธีการพื้นฐานของมันถูกพัฒนาโดยนักวิจัยหกคนที่แตกต่างกัน

Jev: โมเดล AI ที่สร้างขึ้นจากจุดบกพร่องในอาชีพ

Almeida พยายามเปิดตัว Jev และดึงดูดเงินทุนโดยยอมรับว่า RLHF สิ่งประดิษฐ์ของเขาเอง 'ไม่มีประโยชน์'

เขาอธิบาย ChatGPT ว่า 'ไม่น่าเชื่อถือหากไม่มีการดูแลของมนุษย์' และให้เหตุผลกับ RLHF ในประเด็นต่างๆ เช่น 'การทิ้งโหมด ความมั่นใจเกินไป และการขาดความน่าเชื่อถือโดยรวม'

Almeida ยังใช้โอกาสนี้ยืนยันว่า Jev 'ไม่สามารถสร้างภาพหลอนได้'

อย่างไรก็ตาม การยืนยันของเขาเกี่ยวกับเทคโนโลยีป้องกันภาพหลอนก็คลี่คลายลงอย่างรวดเร็วเมื่อตรวจสอบอย่างละเอียด

ตามเอกสารของ Jev เอง การป้องกันภาพหลอนของมันมาจากการออกแบบที่เลือกตัวเลือกแทนการสร้างประโยค โดยมีขีดจำกัดที่เข้มงวดที่ 255 ตัวเลือก — ไม่ใช่จากโค้ดหรือการก้าวกระโดดอัลกอริทึมที่โดดเด่นใดๆ

Jev ทำหน้าที่เป็นตัวเลือกการตัดสินใจพื้นฐาน โดยเลือกจากชุดตัวเลือกที่จำกัดหรือเอาต์พุตที่ตั้งไว้ล่วงหน้า เช่น การประมาณเปอร์เซ็นต์ความน่าจะเป็น

เนื่องจาก Jev ไม่ผลิตข้อความผ่านแชทบอททั่วไป มันจึงไม่สามารถสร้างภาพหลอนได้ — ภาพหลอนเกี่ยวข้องกับการสร้างวลีที่สร้างประโยคหรือข้อความที่เป็นข้อเท็จจริง

Jev สามารถเลือกได้จากเอาต์พุตที่กำหนดไว้ล่วงหน้าเท่านั้นและไม่สร้างประโยคที่ตีความได้ ดังนั้น Almeida จึงอวดว่าไม่มีภาพหลอนเกิดขึ้นได้ใน Jev โดยเนื้อแท้

Jev มีอายุเพียงไม่กี่วันและยังคงอยู่ในช่วง Early Access โทเค็นอินพุตราคา $42 ต่อพันล้าน ในขณะที่โทเค็นเอาต์พุตปัจจุบันฟรีซึ่งเป็นส่วนหนึ่งของเงินอุดหนุน Almeida กล่าวว่า Jev มีข้อได้เปรียบด้านความเร็ว ต้นทุน และคุณภาพเหนือคู่แข่ง