นักวิจัยของ Anthropic ลาออก เตือนว่า AI อาจฆ่ามนุษย์ทั้งหมด

ตลาดหุ้นได้เคลื่อนผ่านหลายช่วงของการขายทำกำไรที่ขับเคลื่อนด้วยความกังวลเกี่ยวกับ AI ความกังวลเฉพาะรวมถึง:

• AI ชนกำแพง
• AI แพงเกินไป
• AI กลายเป็นสินค้าทั่วไป
• ห้องปฏิบัติการบางแห่งชนะขาด

คำถามถัดไปที่ตลาดต้องเผชิญคือ: ถ้า AI มีพลังมากเกินไปล่ะ?

เมื่อวันอังคาร Jacob Coxon นักวิจัยของ Anthropic ประกาศลาออกหลังจากทำงานสามปีในการฝึกอบรมโมเดลล่วงหน้าที่ OpenAI และ Anthropic "ทั้งสองบริษัทไม่ได้ดำเนินการอย่างรับผิดชอบ พวกเขากำลังแข่งกันตรงไปสู่ปัญญาประดิษฐ์เหนือมนุษย์ที่ปรับปรุงตนเองได้ และกำลังเดิมพันกับชีวิตของเรา" เขาเขียน

จากนั้นเขาได้ออกคำเตือน:

"อย่าประเมินพลังของเทคโนโลยีนี้ต่ำเกินไป สิ่งเหล่านี้จะกลายเป็นระบบเหนือมนุษย์ที่สามารถแฮ็กอะไรก็ได้ ปฏิวัติทุกสาขาได้ในชั่วข้ามคืน และได้รับอำนาจและทรัพยากรที่แท้จริง เราทุกคนได้เห็นความก้าวหน้าในแต่ละด้านเหล่านี้ และความก้าวหน้ากำลังไม่ชะลอตัว"

เสียงเรียกร้องให้มีการควบคุมเพิ่มขึ้น โดยเฉพาะหลังจากรายงานของ Reuters ว่าการหลบหนีของเอเจนต์ OpenAI ที่ไม่ได้รับอนุญาตในเดือนพฤษภาคม-มิถุนายนใช้ไซต์เพิ่มเติมอย่างน้อย 10 แห่งที่ไม่เปิดเผยสำหรับการสื่อสาร โดยมีการประมาณการหนึ่งที่ +23

Coxon กล่าวว่าการแฮ็กเป็นเพียงจุดเริ่มต้นของความกลัว:

"ผู้คนที่สร้าง AI เชื่ออย่างจริงจังว่ามันอาจฆ่าพวกเราทุกคนภายในสิ้นทศวรรษนี้"

หลังจากนั้นไม่นาน พนักงานด้านความปลอดภัยของ Anthropic คนหนึ่งกล่าวว่ามีโอกาสมากกว่า 10% ที่ AI อาจ "ฆ่ามนุษย์ทั้งหมด" ภายในทศวรรษหน้า

เห็นได้ชัดว่า โอกาสที่ AI จะฆ่ามนุษย์ทั้งหมดเป็นอันตรายต่อตลาดหุ้น แต่แนวทางแก้ไขที่เสนอก็สร้างปัญหาเช่นกัน พนักงานคนเดียวกันกล่าวว่าการแข่งขันระดับโลกต้องชะลอตัวลง แต่ "อาจต้องใช้มาตรการที่มีค่าใช้จ่ายสูง เช่น การห้ามปรับปรุงความสามารถของโมเดลชั่วคราว"

แนวคิดนี้ไม่น่าจะได้ผลในสภาพแวดล้อมปัจจุบัน ซิลิคอนวัลเลย์ได้ซึมซับปรัชญา "เคลื่อนที่เร็วและทำลายสิ่งต่างๆ" ในขณะที่สหรัฐฯ และจีนมองว่าตัวเองติดอยู่ในสงครามเทคโนโลยี

แม้แต่การห้ามชั่วคราวก็ไม่สามารถหยุดการพัฒนาได้ ซึ่งจะดำเนินต่อไปอย่างลับๆ โดยมีสิ่งล่อใจให้ใช้ประโยชน์อยู่ตลอดเวลา ความร่วมมือระดับโลกแทบเป็นไปไม่ได้เมื่อพิจารณาจากมุมมองระหว่างประเทศที่มีต่อทำเนียบขาว

เปลี่ยนโฟกัส หากเราละเว้นการสูญพันธุ์ของมนุษย์หรือการทำลายอินเทอร์เน็ตจาก AI ให้พิจารณาคำกล่าวของ Coxon เกี่ยวกับ "ความก้าวหน้าที่ไม่ชะลอตัว" ในมุมมองของฉัน ความเสี่ยงของการทำให้ชั้นมูลค่ากลายเป็นสินค้าทั่วไปกำลังเพิ่มขึ้น เมื่อโมเดลสามารถทำภาษีของคุณได้อย่างแม่นยำ ไม่จำเป็นต้องใช้ปัญญาประดิษฐ์เหนือมนุษย์เพื่อสร้างมูลค่าเพิ่ม อาจมีกลยุทธ์ทรัสต์นอกชายฝั่ง แต่สำหรับผู้ยื่นภาษี 99% มันเพียงแค่แทนที่ H&R Block หรือ CPA ของพวกเขา

ความคิดนั้นขยายออกไปอีก และฉันยังคงเชื่ออย่างยิ่งว่าการลงทุน AI ที่ดีที่สุดอยู่ในเศรษฐกิจจริง—หุ้น HALO ที่มีอัตรากำไรต่ำซึ่งสามารถปรับปรุงได้ด้วย AI

ในขณะเดียวกัน ตลาดถูกหล่อหลอมให้คิดว่าบริษัทเทคโนโลยีจะยึดมูลค่าจากเทคโนโลยี นั่นไม่ใช่กรณีของไฟฟ้าหรือทรานซิสเตอร์ และ AI ก็จะคล้ายกัน