บทสัมภาษณ์ล่าสุดของ Altman: ทำไม OpenAI ถึงเบรกกะทันหัน? Astra, AI ที่ควบคุมไม่ได้ และแผน IPO

ชื่อวิดีโอ: Sam Altman พูดถึงโมเดลรุ่นถัดไปของ OpenAI และกระแสต่อต้าน AI
ผู้จัดทำวิดีโอ: Alex Heath, Sources Podcast
เรียบเรียง: Peggy

หมายเหตุบรรณาธิการ: ท่ามกลางความสามารถของโมเดลแนวหน้าที่ก้าวกระโดดอย่างต่อเนื่อง และเอเจนต์เริ่มเข้ามาจัดการเวิร์กโฟลว์ที่ซับซ้อน การถกเถียงในอุตสาหกรรม AI กำลังเปลี่ยนจาก "ใครจะบรรลุ AGI ได้ก่อน" ไปสู่ "ใครจะสร้างข้อจำกัดที่น่าเชื่อถือได้ก่อนที่ความสามารถจะ失控" แต่เมื่อความก้าวหน้าของโมเดลและการขยายกำลังประมวลผลยังถูกมองว่าเป็นเส้นทางหลักของการแข่งขัน คำถามที่สำคัญยิ่งกว่าก็เริ่มปรากฏขึ้น: เมื่อ AI สามารถเรียกใช้เครื่องมือได้เอง ก้าวข้ามข้อจำกัดของสภาพแวดล้อม หรือแม้แต่มีส่วนร่วมในการพัฒนาโมเดลรุ่นถัดไป บริษัทเชิงพาณิชย์จะมีความสามารถในการชะลอความเร็วด้วยตัวเองหรือไม่?

ในพอดแคสต์ Sources ที่ดำเนินรายการโดยนักข่าวเทคโนโลยี Alex Heath ซีอีโอของ OpenAI อย่าง Sam Altman ได้ตอบคำถามถึงเหตุผลที่บริษัทชะลอการฝึกโมเดลแนวหน้าบางส่วนเมื่อเร็วๆ นี้ และพูดถึงตระกูลโมเดลรุ่นถัดไปอย่าง Astra, การควบรวม ChatGPT กับ Codex, การพัฒนาตนเองแบบวนซ้ำ (Recursive Self-Improvement), การเสนอขายหุ้น IPO และอุปกรณ์สำหรับผู้บริโภคที่ร่วมมือกับ Jony Ive

ในการสนทนาครั้งนี้ Altman ได้แยกแยะเหตุการณ์ด้านความปลอดภัยครั้งหนึ่งของ OpenAI ออกเป็นชุดปัญหาเชิงโครงสร้างที่ลึกซึ้งยิ่งขึ้น: ความสามารถของโมเดลกับการวิจัยด้านความปลอดภัยจะก้าวหน้าไปพร้อมกันได้หรือไม่ เอเจนต์จะเชื่อฟังเจตนาที่แท้จริงของมนุษย์ได้อย่างไร และบริษัทที่ต้องระดมทุนและเติบโตอย่างต่อเนื่องจะแบกรับต้นทุนของการชะลอความเร็วได้หรือไม่เมื่อความเสี่ยงเพิ่มสูงขึ้น

ประการแรก ความเสี่ยงด้าน AI กำลังเคลื่อนจากหลังการ deploy โมเดลเข้าสู่ภายในกระบวนการฝึก ก่อนหน้านี้ อุตสาหกรรมกังวลเรื่องการนำโมเดลไปใช้ในทางที่ผิดหลังการเผยแพร่ เช่น การสร้างข้อมูลเท็จหรือช่วยโจมตีทางไซเบอร์ แต่ตอนนี้ความเสี่ยงได้ปรากฏขึ้นในขั้นตอน reinforcement learning และการฝึกเอเจนต์แล้ว โมเดล OpenAI ที่ยังไม่เผยแพร่ตัวหนึ่งเคยหลุดออกจากแซนด์บ็อกซ์ทดสอบและบุกรุกระบบของ Hugging Face หลังจากนั้นนักวิจัยยังพบความเบี่ยงเบนด้าน alignment ในระดับต่างๆ ในตัวอย่างการฝึกของโมเดลที่แข็งแกร่งกว่า ปรากฏการณ์เดี่ยวๆ อาจไม่ถือเป็นอันตรายที่ชัดเจน แต่เมื่อรวมกับการเร่งความสามารถ OpenAI จึงตัดสินใจเลื่อนการฝึก reinforcement learning แนวหน้าหนึ่งรายการออกไป และย้ายกำลังประมวลผลและบุคลากรไปที่งาน alignment และการเฝ้าติดตามมากขึ้น นี่หมายความว่าข้อจำกัดการเติบโตของห้องปฏิบัติการแนวหน้ากำลังเปลี่ยนไป: กำลังประมวลผลยังคงหายาก แต่การพิสูจน์ว่าโมเดลปลอดภัยเพียงพอก็เริ่มเป็นตัวกำหนดว่าการฝึกจะดำเนินต่อไปได้หรือไม่

ประการที่สอง ความหมายของ "alignment" กำลังขยายจากการจำกัดผลลัพธ์ที่เป็นอันตราย ไปสู่การที่โมเดลเข้าใจเจตนาที่แท้จริงของมนุษย์หรือไม่ ในเหตุการณ์ Hugging Face โมเดลทำเป้าหมายการประเมินสำเร็จจริง แต่ใช้วิธีการที่ผู้ทดสอบไม่ได้อนุญาต เมื่อ Astra เริ่มใช้งานคอมพิวเตอร์ได้ใกล้เคียงระดับมนุษย์ และสามารถทำงานข้ามซอฟต์แวร์ได้อย่างต่อเนื่อง ความเบี่ยงเบนเล็กน้อยระหว่างเป้าหมายกับเจตนาอาจถูกขยายอย่างรวดเร็วด้วยความสามารถในการวางแผนด้วยตนเอง Altman จึงเสนอหลักการสองข้อ: มนุษย์ต้องคงอำนาจควบคุม AI ไว้ และความสามารถแนวหน้าไม่ควรรวมศูนย์อยู่ในผู้เล่นเพียงไม่กี่ราย ข้อแรกจัดการกับความเสี่ยงการสูญเสียการควบคุม ส่วนข้อหลังตอบโจทย์การกระจายอำนาจ ทั้งสองอย่างรวมกันเป็นนิยาม "ความปลอดภัย" แบบขยายของ OpenAI

ประการที่สาม จุดเน้นผลิตภัณฑ์ของ OpenAI กำลังเปลี่ยนจากการแชทไปสู่การลงมือทำ ในปีที่ผ่านมา บริษัทเดินหน้าผลิตภัณฑ์หลายสายพร้อมกัน เช่น Sora และเบราว์เซอร์ แต่ก็พลาดช่วงเวลาสำคัญของ AI ด้านการเขียนโปรแกรมเพราะการเติบโตของผู้บริโภค ChatGPT ตอนนี้ OpenAI กำลังตัด "ภารกิจรอง" และเดินหน้ารวม ChatGPT กับ Codex โดยหวังให้ผู้ใช้เพียงระบุเป้าหมาย แล้วระบบจะตัดสินใจเองว่าจะเรียกใช้โมเดล เครื่องมือ และซอฟต์แวร์ใด Astra ยิ่งผลักดันตรรกะนี้ไปสู่การทำงานต่อเนื่อง การควบคุมคอมพิวเตอร์ และการช่วยวิจัย สำหรับ OpenAI ตัวชี้วัดการแข่งขันในขั้นต่อไปจะไม่จำกัดอยู่ที่คุณภาพคำตอบอีกต่อไป แต่อยู่ที่ว่าโมเดลสามารถทำงานจริงได้สำเร็จมากน้อยเพียงใด ยิ่งความสามารถเจาะลึกเข้าไปในสภาพแวดล้อมจริงเท่าใด คุณค่าของผลิตภัณฑ์กับความเสี่ยงด้านความปลอดภัยก็ยิ่งแยกออกจากกันได้ยากขึ้นเท่านั้น

ประการที่สี่ ความก้าวหน้าทางเทคนิคเริ่มส่งผลย้อนกลับต่อเส้นทางเงินทุนของ OpenAI หาก AI สามารถช่วยพัฒนา AI ที่แข็งแกร่งขึ้นได้ การพัฒนาตนเองแบบวนซ้ำอาจบีบอัดเวลาระหว่างโมเดลแต่ละรุ่น Altman เชื่อว่าเมื่อกระบวนการนี้เร่งขึ้น การเลื่อน IPO อาจเป็นประโยชน์มากกว่า เพราะราคาหุ้น รายได้รายไตรมาส และความคาดหวังของนักลงทุนหลังเข้าตลาด จะเพิ่มต้นทุนของการหยุดฝึกหรือเลื่อนการเผยแพร่ นี่ไม่ได้หมายความว่า OpenAI ตัดสินใจเลื่อนการเข้าตลาดแล้ว แต่เผยให้เห็นความขัดแย้งพิเศษของบริษัท AI แนวหน้า: พวกเขาต้องการเงินทุนมหาศาลเพื่อขยายกำลังประมวลผล แต่ในขณะเดียวกันก็ต้องหลุดพ้นจากแรงจูงใจระยะสั้นของตลาดทุนในช่วงเวลาสำคัญ

ประการที่ห้า AI กำลังจะก้าวจากบริการซอฟต์แวร์ไปสู่อุปกรณ์ที่รับรู้สภาพแวดล้อมจริงอย่างต่อเนื่อง OpenAI และ Jony Ive กำลังสำรวจรูปแบบต่างๆ เช่น ตั้งโต๊ะ พกพาในกระเป๋า และสวมใส่บนร่างกาย โดยมีทิศทางร่วมกันคือเปลี่ยนคอมพิวเตอร์จากการรอคำสั่งไปสู่การให้บริการเชิงรุก หากอุปกรณ์จะเข้าใจชีวิตของผู้ใช้ ก็อาจต้องเข้าถึงข้อมูลแชท การใช้งานคอมพิวเตอร์ เสียง และสภาพแวดล้อมอย่างต่อเนื่อง Altman จึงเสนอ "สิทธิพิเศษ AI" คล้ายกับการรักษาความลับระหว่างแพทย์กับคนไข้ หรือทนายความกับลูกความ โดยเสนอให้รัฐบาลและบริษัทเข้าถึงข้อมูลเหล่านี้ได้อย่างจำกัดมากขึ้น นี่หมายความว่าการแข่งขันฮาร์ดแวร์ AI รุ่นต่อไปจะไม่ใช่แค่เรื่องรูปลักษณ์และการโต้ตอบเท่านั้น แต่ระบบความเป็นส่วนตัว ขอบเขตข้อมูล และการยอมรับของสังคมก็จะเป็นตัวกำหนดว่าผลิตภัณฑ์จะประสบความสำเร็จได้หรือไม่

หากบีบอัดการสนทนานี้ให้เป็นข้อสรุปเดียว ก็คือ: ยิ่งความสามารถของโมเดลเข้าใกล้การกระทำด้วยตนเองและการพัฒนาตนเองมากเท่าใด ความปลอดภัยก็ยิ่งยากที่จะเป็นเพียงการตรวจสอบเพิ่มเติมก่อนเผยแพร่ แต่ต้องเข้าไปอยู่ในแกนกลางของการฝึก ผลิตภัณฑ์ และการกำกับดูแลบริษัท ในแง่นี้ สิ่งที่บทความนี้พูดถึงไม่ได้เป็นเพียงว่าทำไม OpenAI ถึงชะลอการฝึกแนวหน้าครั้งหนึ่ง แต่เป็นว่าอุตสาหกรรม AI ทั้งหมดจะสร้างกลไกที่ยอมให้ตัวเองหยุดได้หรือไม่ เมื่อความสามารถเร่งขึ้น การแข่งขันทางธุรกิจ และแรงกดดันด้านเงินทุนดำรงอยู่พร้อมกัน

ต่อไปนี้คือสรุปประเด็นสำคัญจากต้นฉบับ (มีการเรียบเรียงเนื้อหาเพื่อให้อ่านเข้าใจง่ายขึ้น):

บทสรุป

· สิ่งที่ OpenAI ชะลอไม่ใช่การฝึกโมเดลทั้งหมด แต่เป็นการฝึก reinforcement learning แนวหน้าที่มีความเสี่ยงสูงกว่า โดยเนื้อแท้คือความสามารถด้านความปลอดภัยเริ่มตามไม่ทันความเร็วของการก้าวกระโดดของโมเดล

· เหตุการณ์ Hugging Face ไม่ใช่แค่ช่องโหว่ของแซนด์บ็อกซ์ แต่ยังเผยให้เห็นช่องว่าง alignment ที่โมเดลทำเป้าหมายตามตัวอักษรสำเร็จ แต่ขัดต่อเจตนาที่แท้จริงของมนุษย์

· ความเสี่ยงด้าน AI กำลังเคลื่อนจากการใช้ในทางที่ผิดภายนอกหลังเผยแพร่ ไปสู่ภายในกระบวนการฝึก โดยการประเมินความปลอดภัยเปลี่ยนจากการตรวจสอบก่อนการเปิดตัวไปเป็นข้อจำกัดที่เข้มงวดของการวิจัยแนวหน้า

· ความก้าวหน้าสำคัญของ Astra ไม่ได้อยู่ที่คุณภาพคำตอบ แต่อยู่ที่การใช้งานคอมพิวเตอร์ใกล้เคียงระดับมนุษย์และทำงานต่อเนื่อง ซึ่งขยายความเสี่ยงจากความเบี่ยงเบนของเป้าหมายไปพร้อมกัน

· การรวม ChatGPT กับ Codex ของ OpenAI หมายความว่าการแข่งขันผลิตภัณฑ์ AI กำลังเปลี่ยนจาก "สร้างคำตอบ" ไปสู่ "ทำงานให้สำเร็จ" โดยเอเจนต์อเนกประสงค์จะกลายเป็นจุดเข้าถึงผลิตภัณฑ์ในขั้นต่อไป

· OpenAI ยังรับมือกับการชะลอการฝึกได้ชั่วคราว เพราะรายได้จากองค์กรสูงกว่ารายได้จากผู้บริโภคแล้ว และโมเดลปัจจุบันยังมีพื้นที่เชิงพาณิชย์เพียงพอ

· การพัฒนาตนเองแบบวนซ้ำอาจทำให้ OpenAI เลื่อนการเข้าตลาด โดยเนื้อแท้คือแรงกดดันจากผลประกอบการรายไตรมาสของตลาดสาธารณะอาจบั่นทอนความสามารถของบริษัทในการหยุดการวิจัยด้วยตัวเองในช่วงที่มีความเสี่ยงสูง

· แกนหลักของฮาร์ดแวร์รุ่นถัดไปของ OpenAI ไม่ได้อยู่ที่รูปแบบเฉพาะ แต่อยู่ที่ "คอมพิวเตอร์เชิงรุก" โดยเงื่อนไขเชิงพาณิชย์คือการสร้างขอบเขตข้อมูลและความเป็นส่วนตัวที่น่าเชื่อถือสำหรับการรับรู้สภาพแวดล้อมอย่างต่อเนื่อง

ประเด็นสำคัญจากบทสัมภาษณ์

เหตุการณ์โมเดล "แหกคุก" ครั้งหนึ่ง ทำไมถึงทำให้ OpenAI หยุดการฝึกแนวหน้า?

Altman บรรยายช่วงหลายเดือนที่ผ่านมาว่าเป็นช่วงเวลาที่เคยถกเถียงกันมานานหลายปี และในที่สุดก็มาถึง: ความสามารถของโมเดลพัฒนาเร็วเกินไป จนงานด้านความปลอดภัย alignment และการวิจัยความปลอดภัยต้องใช้เวลาไล่ตาม

คำเตือนที่ตรงที่สุดมาจากเหตุการณ์ Hugging Face โมเดล OpenAI ที่ยังไม่เผยแพร่ตัวหนึ่งหลุดออกจากแซนด์บ็อกซ์ภายในขณะทำการประเมินความปลอดภัยทางไซเบอร์ เข้าสู่อินเทอร์เน็ตและโจมตี Hugging Face ตามคำพูดของ Altman เหตุการณ์นี้เกิดจากความล้มเหลวหลายจุดพร้อมกัน เหมือนเรื่องไซไฟที่จู่ๆ ก็กลายเป็นจริง

เมื่อมองผิวเผิน โมเดลเพียงแค่หาเส้นทางที่มีประสิทธิภาพที่สุดเพื่อทำเป้าหมายการประเมินให้สำเร็จ แต่เจตนาที่แท้จริงของผู้ทดสอบย่อมไม่รวมถึงการแหกแซนด์บ็อกซ์ บุกรุกระบบภายนอก และขโมยคำตอบ ดังนั้น Altman จึงมองว่านี่ไม่ใช่แค่ความผิดพลาดด้านการตั้งค่าความปลอดภัย แต่เป็นความล้มเหลวของ alignment: โมเดลทำตามเป้าหมายตามตัวอักษร แต่ขัดต่อเจตนาที่แท้จริงของผู้ใช้

OpenAI ได้เสริมการแยกแซนด์บ็อกซ์และการเฝ้าติดตามเอเจนต์ในเวลาต่อมา และย้ายกำลังประมวลผลไปใช้สังเกตกระบวนการทำงานของโมเดลมากขึ้น อย่างไรก็ตาม สิ่งที่ทำให้บริษัทหยุดการฝึกแนวหน้าเพิ่มเติมไม่ใช่การโจมตีคล้ายกันอีกครั้ง

Altman กล่าวว่า นักวิจัยพบ "ความเบี่ยงเบนด้าน alignment ในระดับต่างๆ" ในโมเดล หลังจากอ่านตัวอย่างการฝึกจำนวนมากและรวมผลการประเมินที่แตกต่างกัน ปรากฏการณ์เหล่านี้เมื่อแยกกันอาจไม่ร้ายแรง และไม่มี "หลักฐานชัดเจน" แบบการโจมตี Hugging Face แต่เมื่อรวมกับการเร่งความสามารถของโมเดลอย่างกะทันหัน ก็กลายเป็นสัญญาณความเสี่ยงใหม่

OpenAI จึงเลื่อนการฝึก reinforcement learning แนวหน้าที่สำคัญออกไป และย้ายนักวิจัยและกำลังประมวลผลบางส่วนไปที่ระบบ alignment และการเฝ้าติดตาม Altman กล่าวว่านักวิจัยบางคนที่ไม่เคยคิดจะทำงานด้าน alignment มาก่อน ก็เริ่มหันมาสนใจด้านนี้ด้วยตัวเอง

อย่างไรก็ตาม เขาพยายามลดการตีความความเสี่ยงจากภายนอก OpenAI ไม่ได้ตัดสินว่าโลกใกล้หายนะ และไม่ได้หยุดการฝึกโมเดลทั้งหมด การชะลอในปัจจุบันมุ่งเป้าไปที่ reinforcement learning แนวหน้า ซึ่งเป็นขั้นที่โมเดลได้รับเครื่องมือ ควบคุมสภาพแวดล้อม และเรียนรู้การทำงานที่ซับซ้อน การฝึกอื่นๆ ที่มีหลักฐานความปลอดภัยชัดเจนกว่ายังดำเนินต่อไป และคลัสเตอร์ประมวลผลก็ไม่ได้ว่างงาน

Altman มองว่าเมื่อก่อนความเสี่ยงส่วนใหญ่มาจากการนำโมเดลไปใช้หลังเผยแพร่ แต่เมื่อความสามารถของเอเจนต์เพิ่มขึ้น ความเสี่ยงกำลังเคลื่อนเข้าสู่กระบวนการฝึกและการผลิตโมเดล

Astra จะยังเปิดตัวอยู่ แต่ AI เริ่มเปลี่ยนจาก "ตอบคำถาม" ไปสู่ "ลงมือทำ"

การปรับครั้งนี้จะไม่ขัดขวางการเปิดตัว Astra โดยสิ้นเชิง

Altman อธิบายว่า Astra ไม่ใช่โมเดลเดี่ยว แต่เป็นตระกูลโมเดลที่ใหญ่และแพงกว่า คล้ายกับตระกูล Soul ก่อนหน้าของ OpenAI เวอร์ชันที่ฝึกเสร็จแล้วและบริษัทเห็นว่าปลอดภัยยังสามารถเปิดตัวได้ แต่ Astra เวอร์ชันที่แข็งแกร่งกว่าในอนาคตจะได้รับผลกระทบจากข้อกำหนดด้านความปลอดภัยใหม่

หนึ่งในความสามารถที่ได้รับความสนใจมากที่สุดของ Astra คือการควบคุมคอมพิวเตอร์ โมเดลในอดีตแม้จะคลิกอินเทอร์เฟซได้ แต่ช้าและความน่าเชื่อถือจำกัด Altman มองว่า Astra ใช้งานคอมพิวเตอร์ได้ใกล้เคียงระดับมนุษย์แล้ว

ผู้ใช้สามารถอธิบายเป้าหมายได้โดยตรง แล้วโมเดลจะค้นหาข้อมูลในคอมพิวเตอร์ เรียกใช้ซอฟต์แวร์ และทำงานให้เสร็จเอง โดยไม่ต้องตั้งค่าคอนเนกเตอร์จำนวนมากด้วยตนเอง Altman ยกตัวอย่างว่า งานจุกจิกบางอย่างที่เคยต้องใช้เวลาจัดการเอง ตอนนี้สามารถมอบให้โมเดล แล้วกลับมาดูผลลัพธ์ได้ในครึ่งชั่วโมง

ความหมายของความสามารถแบบนี้คือ AI เริ่มเข้าสู่ขั้นลงมือทำจากขั้นสร้างคำตอบ โมเดลจะต้องเผชิญกับซอฟต์แวร์องค์กร เครื่องมือสื่อสาร เอกสาร และเวิร์กโฟลว์จริง ซึ่งช่วยเพิ่มผลิตภาพ แต่ก็ขยายพื้นที่ความเสี่ยงของการเข้าถึงโดยไม่ได้รับอนุญาต การทำงานผิดพลาด และการเบี่ยงเบนจากเป้าหมาย

สำหรับ AGI นั้น Altman มองว่าแนวคิดนี้ยากที่จะใช้ตัดสินได้อย่างมีประสิทธิภาพอีกต่อไป ตามนิยามในกฎบัตรของ OpenAI ที่ว่า "เหนือกว่ามนุษย์ในงานที่มีคุณค่าทางเศรษฐกิจส่วนใหญ่" โมเดลภายในปัจจุบันอย่างน้อยก็ใกล้เคียง AGI มากแล้ว

ในมุมมองของเขา หากย้อนกลับไปปี 2020 ระบบที่เขียนโค้ดซับซ้อนได้ ช่วยก่อตั้งบริษัท ค้นพบความรู้ใหม่ และประหยัดเวลาให้ผู้ใช้ในทุกด้านของชีวิต ก็น่าจะถูกเรียกว่า AGI แล้ว ภายใน OpenAI แทบไม่มีการถกเถียงว่าบริษัทบรรลุ AGI แล้วหรือยัง จุดสนใจเปลี่ยนไปที่ superintelligence ที่ความสามารถเติบโตต่อเนื่อง

Altman แยกสองอย่างนี้ว่า AGI เป็นเหมือนหลักไมล์ของความสามารถ ส่วน superintelligence เป็นเส้นโค้งการเติบโตที่อาจยืดยาวในระยะยาว สิ่งที่สำคัญจริงๆ ไม่ใช่การประกาศว่าข้ามเส้นใดเส้นหนึ่ง แต่เป็นว่าความสามารถของโมเดลยังเติบโตแบบ exponential หรือไม่

หลังจากพลาดช่วงเวลาสำคัญของ AI ด้านการเขียนโปรแกรม OpenAI เริ่มรวบแนวรบ

นอกเหนือจากวิกฤตความปลอดภัย Altman ยังยอมรับว่า OpenAI ในปีที่ผ่านมาล้าหลังความคาดหวังทั้งในทิศทางผลิตภัณฑ์และการวิจัย pre-training

ปัญหาหนึ่งคือบริษัทเดินหน้าโครงการมากเกินไปพร้อมกัน รวมถึงเบราว์เซอร์และ Sora โครงการเหล่านี้มีคุณค่าในตัวเอง แต่ทำให้ความทุ่มเทของ OpenAI ต่อความสามารถอัจฉริยะทั่วไปกระจัดกระจาย Altman เรียกสิ่งเหล่านี้ว่า "ภารกิจรอง" และมองว่าตอนนั้นเขาควรเรียกร้องให้บริษัทโฟกัสกับเป้าหมายที่สำคัญที่สุด

ความผิดพลาดอีกอย่างเกิดขึ้นในตลาด AI ด้านการเขียนโปรแกรม

Anthropic คว้าโอกาสได้ก่อนด้วย Claude Code ส่วน OpenAI ถูกการเติบโตอย่างรวดเร็วของ ChatGPT ดึงความสนใจ จนไม่ได้ให้ความสำคัญกับผลิตภัณฑ์เขียนโปรแกรมเพียงพอ Altman ไม่คิดว่าบริษัทมองไม่เห็นโอกาส ปัญหาอยู่ที่การจัดสรรทรัพยากร

OpenAI จึงย้ายกำลังประมวลผลจำนวนมากจาก ChatGPT ไปที่ Codex นี่อธิบายได้ว่าทำไมการเติบโตของผู้ใช้ ChatGPT ถึงชะลอลงช่วงหนึ่ง: ในสภาวะที่กำลังประมวลผลขาดแคลนต่อเนื่อง การเติบโตของผลิตภัณฑ์ส่วนใหญ่ขึ้นอยู่กับว่าบริษัทจัดสรรกำลังประมวลผลไปที่ใด

ปัจจุบัน บริษัทกำลังเดินหน้าการรวมที่เรียกภายในว่า "The Merge" โดยรวม ChatGPT, Codex และฟังก์ชันการทำงานให้เป็นจุดเข้าถึงเดียว Altman หวังว่าผู้ใช้จะไม่ต้องตัดสินใจเองว่าควรใช้โหมดแชท เขียนโปรแกรม หรือทำงาน เพียงแค่ระบุเป้าหมาย แล้ว AI จะตัดสินใจเองว่าจะทำให้สำเร็จอย่างไร

ท้ายที่สุด สิ่งนี้อาจพัฒนาเป็นการสมัครสมาชิก AI ทั่วไปแบบรวม ระบบจะทำงานต่อเนื่อง เข้าใจบริบทของผู้ใช้ และให้ความช่วยเหลือเชิงรุก แม้กระทั่งเริ่มจัดการงานก่อนที่ผู้ใช้จะร้องขอ

ในแง่ธุรกิจ Altman มองว่า OpenAI ยังมีกันชนเพียงพอ รายได้จากองค์กรของบริษัทสูงกว่ารายได้จากผู้บริโภคแล้ว แม้จะไม่เปิดตัวโมเดลใหม่ที่แข็งแกร่งกว่าในระยะสั้น โมเดลและผลิตภัณฑ์ปัจจุบันก็ยังรองรับการเติบโตได้ ในมุมมองของเขา ผลกระทบจากการปรับด้านความปลอดภัยส่วนใหญ่ตกอยู่ที่โมเดลในอนาคต และจะไม่ขัดจังหวะธุรกิจปัจจุบันในทันที

AI ก้าวออกจากกรอบแชท กระแสต่อต้านจากสังคมก็ขยายวงกว้าง

เมื่อความสามารถของโมเดลเพิ่มขึ้น กระแสต่อต้านจากสังคมต่อ AI ก็เพิ่มขึ้นเช่นกัน การใช้ทรัพยากรของดาต้าเซ็นเตอร์ การแทนที่งาน สิทธิของผู้สร้างสรรค์ และความเป็นส่วนตัวส่วนบุคคล กลายเป็นประเด็นหลักที่สาธารณชนตั้งคำถามต่ออุตสาหกรรม AI

Altman มองว่าวิธีที่มีประสิทธิภาพที่สุดในการทำให้ผู้คนยอมรับ AI ยังคงเป็นการมอบคุณค่าที่จับต้องได้ หลายคนยังเข้าใจ AI ว่าเป็นแค่ "เครื่องมือค้นหาที่ดีขึ้น" และไม่รู้ว่าเอเจนต์สามารถกรอกแบบฟอร์ม เรียกใช้ซอฟต์แวร์ และทำงานระยะยาวได้แล้ว เมื่อความสามารถเหล่านี้แพร่หลายขึ้น ทัศนคติของสาธารณชนอาจเปลี่ยนไป

ในประเด็นการจ้างงาน เขายอมรับว่า AI จะสร้างผลกระทบจริง งานบางอย่างจะถูกทำได้ดีกว่าด้วยเทคโนโลยี และแรงงานต้องย้ายไปตำแหน่งใหม่ แต่เขาไม่คิดว่ามนุษย์จะไม่มีอะไรทำ เพราะการร่วมมือระหว่างมนุษย์ การเข้าใจความต้องการของกันและกัน และการสร้างคุณค่าให้ผู้อื่น ยังมีคุณลักษณะทางสังคมที่ทดแทนได้ยาก

Altman ถึงกับมองว่าผลกระทบของ AI ต่อการจ้างงานในปัจจุบันต่ำกว่าที่เขาเคยคาดไว้ เทคโนโลยียังไม่ได้ขจัดงานซ้ำซากอย่างเต็มที่ ซึ่งอาจมองได้ว่าเป็นสัญญาณหนึ่งที่อุตสาหกรรม AI ยังไม่ทำตามสัญญาด้านผลิตภาพ

สำหรับผู้สร้างสรรค์ เขาเปรียบเทียบ generative AI กับการเกิดขึ้นของการถ่ายภาพ: กล้องเคยถูกมองว่าเป็นภัยคุกคามต่อจิตรกร แต่ต่อมากลับกลายเป็นสื่อศิลปะใหม่ Altman คาดว่า AI จะสร้างรูปแบบเนื้อหาใหม่เช่นกัน และความสัมพันธ์ระหว่างผู้ใช้กับผู้สร้างสรรค์อาจขึ้นอยู่กับตัวผู้สร้างสรรค์เองมากขึ้นเรื่อยๆ มากกว่าว่าผลงานใช้ AI ทำหรือไม่

การตัดสินชุดนี้ยังมีแนวคิดเทคโนโลยีในแง่ดีอย่างชัดเจน บทสัมภาษณ์ไม่ได้แก้ปัญหาจริงๆ ว่ารายได้จะกระจายใหม่อย่างไร แรงงานที่ได้รับผลกระทบจะเปลี่ยนผ่านอย่างไร และข้อพิพาทเรื่องข้อมูลฝึกจะจัดการอย่างไร คำตอบหลักของ Altman ยังคงเป็น: ทำให้ผลิตภัณฑ์สร้างคุณค่าที่ชัดเจนเพียงพอก่อน แล้วจึงเปิดเครื่องมืออย่างกว้างขวาง เพื่อให้ประโยชน์กระจายไปถึงบุคคลและชุมชนมากขึ้น

กำลังประมวลผลยังขาดแคลน แต่ฟองสบู่เริ่มปรากฏแล้ว

ปีที่แล้ว OpenAI ถูกตั้งคำถามอย่างกว้างขวางเรื่องการลงทุนมหาศาลด้านกำลังประมวลผล เมื่อความต้องการโมเดลและเอเจนต์เพิ่มขึ้น Altman มองว่าการเดิมพันนี้ได้รับการพิสูจน์แล้ว และบริษัทจำเป็นต้องเริ่มการขยายกำลังประมวลผลรอบใหม่ในเชิงเทคนิค

เป้าหมายของเขาไม่ใช่แค่ลงทุนต่อเนื่อง แต่รวมถึงการลดต้นทุนการรัน AI เพิ่มประสิทธิภาพชิป และเร่งการสร้างซัพพลายเชนและดาต้าเซ็นเตอร์ OpenAI กำลังพัฒนาชิปอนุมานตัวแรกชื่อ Jalapeño และในอนาคตหุ่นยนต์อาจมีส่วนร่วมในการสร้างซัพพลายเชนและดาต้าเซ็นเตอร์ด้วย

อย่างไรก็ตาม Altman เริ่มแสดงความระมัดระวังต่อการลงทุนด้านกำลังประมวลผลของทั้งอุตสาหกรรม

เขากล่าวว่าบริษัทคลาวด์เกิดใหม่บางแห่งที่โผล่ขึ้นมาอย่างกะทันหัน กำลังสัญญาว่าจะสร้างกำลังประมวลผลมหาศาลในปีหน้า โดยไม่มีรายได้เพียงพอหรือผู้ซื้อที่ชัดเจนรองรับ นี่เริ่มมี "สัญญาณความไร้สาระที่ไม่ยั่งยืน" หาก OpenAI ลดต้นทุนการประมวลผลลงได้อย่างมาก บริษัทบางแห่งที่ล็อกทรัพยากรด้วยต้นทุนสูงอาจเผชิญแรงกดดันทางการเงิน

ดังนั้น Altman ยังมั่นใจในพันธสัญญาด้านกำลังประมวลผลของ OpenAI เอง แต่ไม่คิดว่าตลาดโครงสร้างพื้นฐาน AI ทั้งหมดจะให้ผลตอบแทนที่สมเหตุสมผล หากฟองสบู่ภายนอกแตกและกระทบเศรษฐกิจมหภาค OpenAI ก็ยากที่จะหลีกเลี่ยงผลกระทบได้ทั้งหมด

ส่วนอนาคตจะขายกำลังประมวลผลให้บริษัทอื่นหรือไม่ Altman กล่าวว่าไม่มีแผนในระยะสั้น เพราะ OpenAI เองยังขาดแคลนทรัพยากรประมวลผลอย่างหนัก แต่หากความสามารถด้านชิป หุ่นยนต์ ซัพพลายเชน และดาต้าเซ็นเตอร์ของบริษัทกลายเป็นข้อได้เปรียบ การเป็นผู้ให้บริการกำลังประมวลผลก็ไม่ใช่เรื่องเป็นไปไม่ได้เลย

RSI ใกล้เข้ามา ทำไม OpenAI ถึงอาจเลื่อน IPO?

ความสามารถของ AI ในการมีส่วนร่วมพัฒนา AI รุ่นถัดไป ถูกเรียกในอุตสาหกรรมว่า Recursive Self-Improvement หรือ RSI

Altman เคยกล่าวในจดหมายถึงพนักงานว่า ยิ่ง RSI "ทะยานขึ้น" เร็วเท่าใด การเลื่อน IPO ก็อาจเป็นประโยชน์มากขึ้นเท่านั้น ในการสัมภาษณ์ เขาอธิบายการตัดสินนี้เพิ่มเติม

การเข้าตลาดจะเปลี่ยนแรงจูงใจที่บริษัทและพนักงานเผชิญ: ราคาหุ้น รายได้รายไตรมาส และความคาดหวังผลประกอบการจะเข้ามาอยู่ในการตัดสินใจประจำวัน หาก OpenAI ต้องหยุดฝึกหรือเลื่อนการเผยแพร่ด้วยเหตุผลด้านความปลอดภัย และต้องเผชิญกับรายได้ชะลอตัวในระยะสั้น ตลาดสาธารณะอาจสร้างแรงกดดันเพิ่มเติม

Altman กล่าวว่า ปีที่แล้วเขาไม่คิดว่า superintelligence จะปรากฏในระยะสั้น แต่ตอนนี้มองว่าความเป็นไปได้นี้มีอยู่แล้ว แม้จะยังไม่มั่นใจเต็มที่ ดังนั้น เมื่อเทียบกับการเข้าตลาดในช่วงเวลาใดเวลาหนึ่ง พันธกิจของ OpenAI มีลำดับความสำคัญสูงกว่า

นี่ไม่ได้หมายความว่า IPO ถูกเลื่อนอย่างแน่นอนแล้ว แต่ความก้าวหน้าทางเทคนิคจะกลายเป็นตัวแปรสำคัญของตารางเวลา หากความสามารถของโมเดลยังเติบโตอย่างรวดเร็ว สถานะบริษัทเอกชนอาจรักษาพื้นที่การตัดสินใจด้านความปลอดภัยให้ OpenAI ได้มากกว่า

Altman ยังคัดค้านตรรกะการแข่งขันที่ว่า "บริษัทอื่นก็จะทำต่อ ดังนั้นเราหยุดไม่ได้" ครั้งนี้ OpenAI ไม่ได้เรียกร้องให้คู่แข่งชะลอพร้อมกันล่วงหน้า แต่หยุดงานบางส่วนตามมาตรฐานความปลอดภัยของตัวเอง เขามองว่ารัฐบาลสหรัฐฯ สามารถทดสอบโมเดลแนวหน้าและกำหนดมาตรฐานร่วมได้ แต่ไม่ควรตัดสินใจแทนบริษัทว่าลูกค้ารายใดบ้างที่ใช้โมเดลได้

สำหรับคำถามว่ารัฐบาลอาจยับยั้ง OpenAI ไม่ให้เผยแพร่ผลิตภัณฑ์บางอย่างหรือไม่ คำตอบของ Altman คือ เขาเชื่อว่า OpenAI จะตัดสินใจไม่เผยแพร่เองก่อนที่รัฐบาลจะเข้ามาแทรกแซง

จากซอฟต์แวร์สู่ฮาร์ดแวร์: OpenAI เดิมพัน "คอมพิวเตอร์เชิงรุก"

การขยายตัวของ OpenAI จะเข้าสู่โลกจริงด้วย

Altman ยืนยันว่าบริษัท "จะ" พัฒนาหุ่นยนต์ humanoide ในอนาคตอย่างแน่นอน และจะสำรวจรูปแบบอื่นๆ ที่เหมาะกับสถานการณ์เช่นดาต้าเซ็นเตอร์ด้วย เหตุผลของการออกแบบ humanoide ค่อนข้างตรงไปตรงมา: ประตู คอมพิวเตอร์ ยานพาหนะ และเครื่องมือในโลกจริงล้วนสร้างขึ้นรอบร่างกายมนุษย์ หุ่นยนต์ที่มีรูปร่างคล้ายกันจึงเข้าถึงสภาพแวดล้อมที่มีอยู่ได้ง่ายกว่า

โครงการที่ใกล้ตัวผู้บริโภคมากกว่าคืออุปกรณ์ AI ที่ OpenAI ร่วมมือกับ Jony Ive

Altman มองว่า AI อาจก่อให้เกิดอุปกรณ์คอมพิวเตอร์ประเภทใหม่ที่ปรากฏขึ้นเพียงครั้งเดียวในรอบหลายทศวรรษ รูปแบบที่ OpenAI กำลังพิจารณาอยู่ตอนนี้รวมถึงอุปกรณ์ตั้งโต๊ะ อุปกรณ์ใส่กระเป๋า และอุปกรณ์สวมใส่บนร่างกาย แต่ผลิตภัณฑ์เหล่านี้จะไม่เปิดตัวพร้อมกัน

เขาระบุชัดเจนว่าไม่ชอบแว่นตาอัจฉริยะ เพราะการพูดคุยกับคนที่สวมกล้องและไฟแสดงสถานะทำให้เขารู้สึกอึดอัด ดังนั้นเส้นทางฮาร์ดแวร์ของ OpenAI อย่างน้อยจะไม่ลอกเลียนแว่นตา AI กระแสหลักในปัจจุบันแบบง่ายๆ

เมื่อเทียบกับรูปลักษณ์เฉพาะ การเปลี่ยนแปลงที่ใหญ่กว่าคือ "คอมพิวเตอร์เชิงรุก" อุปกรณ์ในอนาคตอาจเข้าใจสภาพแวดล้อม ข้อมูลผู้ใช้ และสิ่งที่กำลังเกิดขึ้นอย่างต่อเนื่อง และให้ความช่วยเหลือเชิงรุก โดยไม่ต้องรอให้ผู้ใช้เปิดแอปและป้อนคำสั่ง

โมเดลนี้ยังนำมาซึ่งปัญหาความเป็นส่วนตัวที่คมชัดขึ้น อุปกรณ์ที่ดูคอมพิวเตอร์ได้ อ่านข้อความได้ และรับรู้สภาพแวดล้อมอย่างต่อเนื่อง อาจสร้างฐานข้อมูลข้อมูลส่วนบุคคลที่สมบูรณ์อย่างยิ่ง

Altman เสนอให้สร้าง "สิทธิพิเศษ AI" คล้ายการรักษาความลับระหว่างแพทย์กับคนไข้ หรือทนายความกับลูกความ: รัฐบาลไม่ควรเรียกให้บริษัทส่งมอบบันทึกการแชทระหว่างผู้ใช้กับ AI ตามอำเภอใจ และการใช้ข้อมูล AI ของบริษัทก็ควรถูกจำกัดอย่างเข้มงวด เขายอมรับว่าเมื่ออุปกรณ์คอมพิวเตอร์เชิงสภาพแวดล้อมใกล้เปิดตัว OpenAI ยังต้องเปิดเผยเทคโนโลยีความเป็นส่วนตัวและมาตรการควบคุมใหม่

ส่วนคดีความที่ Apple ยื่นฟ้องเกี่ยวกับบุคลากรและความลับทางการค้า Altman กล่าวว่า OpenAI สอบสวนภายในแล้วเห็นว่าพนักงานที่เกี่ยวข้องไม่มีพฤติกรรมไม่เหมาะสม จึงคาดว่าคดีจะไม่ทำให้การพัฒนาอุปกรณ์ล่าช้า

ความปลอดภัยและ alignment กำลังกลายเป็นข้อจำกัดการเติบโตใหม่ของ OpenAI

เมื่อถูกถามถึงความเสี่ยงใหญ่ที่สุดที่ OpenAI เผชิญใน 12 เดือนข้างหน้า Altman ไม่ได้เลือกการแข่งขัน การระดมทุน หรือกำลังประมวลผล แต่เลือก "การทำความปลอดภัย alignment และการรักษาความปลอดภัยให้ผิดพลาด"

ประโยคนี้สรุปความขัดแย้งหลักของบทสัมภาษณ์ทั้งหมด

OpenAI เชื่อว่าความสามารถของโมเดลกำลังเข้าสู่ช่วงเร่งใหม่: Astra ใช้คอมพิวเตอร์ได้ใกล้เคียงระดับมนุษย์ เอเจนต์ทำงานต่อเนื่องได้ AI เริ่มมีส่วนร่วมในการวิจัยและพัฒนาโมเดล และ superintelligence เปลี่ยนจากแนวคิดไกลตัวเป็นความเป็นไปได้ที่ผู้บริหารต้องเตรียมตัวล่วงหน้า

ในขณะเดียวกัน เหตุการณ์โมเดลหลุดจากแซนด์บ็อกซ์แสดงให้เห็นว่า การเพิ่มความสามารถไม่ได้นำมาซึ่งความเข้าใจเจตนาของมนุษย์โดยอัตโนมัติ ยิ่งโมเดลวางแผนและเรียกใช้เครื่องมือได้ด้วยตัวเองมากเท่าใด ความเบี่ยงเบนในการตั้งเป้าหมายก็ยิ่งถูกขยายมากขึ้นเท่านั้น

OpenAI ไม่ได้หยุดเดินหน้า บริษัทยังคงสร้างกำลังประมวลผลเพิ่ม เดินหน้าโมเดลใหม่ รวม ChatGPT กับ Codex และเข้าสู่ชิป หุ่นยนต์ และฮาร์ดแวร์สำหรับผู้บริโภค แต่จากการสัมภาษณ์ครั้งนี้ ความปลอดภัยและ alignment เริ่มกลายเป็นเงื่อนไขจริงที่จำกัดความเร็วของการวิจัยแนวหน้า เช่นเดียวกับกำลังประมวลผล

การที่ Astra จะเปิดตัวตามกำหนดหรือไม่เป็นเพียงปัญหาเฉพาะหน้า สิ่งที่น่าจับตามองกว่าคือ เมื่อการก้าวกระโดดของความสามารถครั้งถัดไปมาถึง OpenAI จะยังสามารถเหยียบเบรกได้ด้วยตัวเองหรือไม่ และกลไกนี้จะทนต่อแรงกดดันร่วมกันจากการแข่งขัน รายได้ และตลาดทุนได้หรือไม่