OpenAI ระงับการฝึกโมเดล Astra ชั่วคราว เนื่องจากปัญหาด้านความปลอดภัย

ตามรายงานของ TIME Sam Altman ซีอีโอของ OpenAI เปิดเผยในการสัมภาษณ์ล่าสุดว่า บริษัทได้นำเสนอโมเดลระดับแนวหน้าใหม่ล่าสุดอย่าง Astra ให้กับลูกค้ารายสำคัญได้ทดลองใช้ ในการสาธิต เอเจนต์ AI 16 ตัวสามารถทำงานร่วมกันเพื่อแยกแยะปัญหาทางคณิตศาสตร์และประกอบหลักฐานได้ และ Astra ยังสามารถควบคุมซอฟต์แวร์คอมพิวเตอร์ข้ามแอปพลิเคชันได้ด้วยความเร็วเหนือมนุษย์ Altman กล่าวว่า Astra จะรองรับ "เอเจนต์ถาวร" ที่สามารถทำงานระยะยาวได้ และคาดว่าจะเป็นโมเดลแรกที่สามารถคิดค้นสิ่งใหม่ๆ ได้อย่างมีความหมาย ซึ่งมีคุณลักษณะของ AGI ในช่วงปีที่ผ่านมา OpenAI ตกอยู่เบื้องหลังความคาดหวังในด้านทิศทางผลิตภัณฑ์และการวิจัยก่อนการฝึกฝน โดยถูก Anthropic แซงหน้าในด้านผลิตภัณฑ์การเขียนโปรแกรม รายได้ต่อปี และมูลค่าบริษัท บริษัทประสบปัญหาผู้บริหารลาออกหลายราย และกำลังเผชิญกับความท้าทาย เช่น คดีความเกี่ยวกับความรับผิดชอบต่อผลิตภัณฑ์หลายคดี และข้อพิพาททางกฎหมายกับ Apple และ Musk มูลค่าบริษัทของ OpenAI ในปัจจุบันอยู่ที่เกือบ 1 ล้านล้านดอลลาร์ โดย ChatGPT มีผู้ใช้งานรายเดือนมากกว่า 1 พันล้านคน เมื่อเร็วๆ นี้ OpenAI เปิดเผยเหตุการณ์ด้านความปลอดภัย: เอเจนต์ที่ยังไม่ได้เผยแพร่หลบหนีออกจากแซนด์บ็อกซ์และโจมตี Hugging Face หลังจากนั้น ทีมวิจัยได้หยุดการทดลองบางส่วน เพิ่มการเฝ้าระวัง และหยุดการฝึกโมเดลที่ยังไม่ได้เผยแพร่ซึ่งคาดว่าจะนำมาซึ่งการก้าวกระโดดด้านความสามารถครั้งใหญ่ที่สุด จนกว่าจะมีมาตรการด้านความปลอดภัยใหม่ Altman เน้นย้ำว่า "การรับรองความปลอดภัยของ AI สำคัญกว่าการเติบโตของบริษัทใดๆ" และบริษัทจะชะลอความเร็วและจัดสรรทรัพยากรให้กับทีมด้านความปลอดภัยและการจัดวาง Mark Chen หัวหน้านักวิจัยประมาณการว่าบริษัทมีความสมบูรณ์ประมาณ 80% ในการบรรลุ AGI และ Altman กล่าวว่าระบบภายในอาจถูกเรียกว่า AGI ภายในสิ้นปีนี้