นักวิจัย Anthropic ลาออก ชี้ AI อาจหลุดการควบคุมในปีหน้า

Jacob Coxon นักวิจัยของ Anthropic ประกาศลาออกและเตรียมออกจากวงการ AI เขาได้ทำการวิจัยก่อนการฝึกอบรม (pre-training) ที่ OpenAI และ Anthropic ในช่วงสามปีที่ผ่านมา เขาชี้ให้เห็นว่าทั้งสองบริษัทไม่ได้พัฒนา AI อย่างมีความรับผิดชอบ และกำลังแข่งขันกันสร้าง superintelligence ที่สามารถเพิ่มความสามารถของตัวเองได้อย่างต่อเนื่อง "เดิมพันด้วยชีวิตของเรา" เขาย้ายจาก OpenAI มา Anthropic ในปีนี้เพราะฝ่ายหลังให้ความสำคัญกับความปลอดภัยของโมเดลมากกว่า Coxon ยอมรับว่างานด้านความปลอดภัยของ Anthropic นั้นจริงจัง แต่เชื่อว่าตราบใดที่บริษัทต่างๆ แข่งกันเป็นเจ้าแรกในการสร้าง AGI (ปัญญาประดิษฐ์ทั่วไปที่เหนือกว่ามนุษย์ในงานที่หลากหลาย) การลดทอนความปลอดภัยก็เป็นสิ่งที่หลีกเลี่ยงไม่ได้ และวินัยในตนเองของบริษัทเดียวไม่สามารถแก้ปัญหาได้ การประเมินของเขาที่มีต่อทั้งสองบริษัทคือ: หลายคนภายใน OpenAI ยังไม่ตระหนักอย่างแท้จริงว่าความเสี่ยงนี้ยิ่งใหญ่เพียงใด Anthropic รู้ถึงความเสี่ยงแต่เชื่อว่าคนอื่นไม่น่าเชื่อถือ ดังนั้นพวกเขาจึงต้องสร้างมันขึ้นมาเองก่อนCoxon กล่าวว่าผู้ปฏิบัติงานด้าน AI บางคนมองโลกในแง่ร้ายเป็นการส่วนตัวมากกว่าที่แสดงออกในที่สาธารณะ และถึงกับกังวลว่า AI อาจทำลายล้างมนุษยชาติก่อนสิ้นทศวรรษนี้ เขาตัดสินเป็นการส่วนตัวว่าในสถานการณ์ที่รุนแรงที่สุด AI อาจหลุดการควบคุมได้ภายในสิ้นปีหน้า ดังนั้นการตัดสินใจดังกล่าวไม่ควรกระทำโดยวิศวกรของเพียงไม่กี่บริษัทเท่านั้น