อดีตรองประธานวิจัย OpenAI ชี้ นักวิจัยมนุษย์เหลือเวลาอีก 2 ปี ก่อน AI วิจัยเองได้เต็มรูปแบบ

มนุษย์เหลือเวลาอีกเพียงสองปีสุดท้ายในการมีบทบาทสำคัญต่อการค้นพบงานวิจัยด้าน AI หลังจากนั้น วงจรการวิจัยและพัฒนา AI ทั้งหมด ตั้งแต่การตั้งสมมติฐานจนถึงการตรวจสอบ จะกลายเป็นระบบอัตโนมัติเต็มรูปแบบ การลอกเลียนแบบโมเดล Transformer ของบริษัทยักษ์ใหญ่เพียงอย่างเดียวคือ "เกมที่แพ้แน่นอน" และคอขวดที่แท้จริงของความก้าวหน้าทาง AI ในปัจจุบันคือตัวสถาปัตยกรรมเอง ในอนาคต ไม่ใช่แค่ห้องปฏิบัติการ AI เท่านั้น แต่บริษัทขนาดใหญ่ทั้งหมดจะมุ่งสู่ระบบอัตโนมัติเต็มรูปแบบ

ในวงการปัญญาประดิษฐ์ปัจจุบัน นักวิจัยกำลังเผชิญกับความรู้สึกขัดแย้งอย่างที่ไม่เคยมีมาก่อน ด้านหนึ่งคือความก้าวหน้าทางเทคโนโลยีที่รุดหน้าไปอย่างรวดเร็ว แต่อีกด้านหนึ่งคือความเหนื่อยล้าจากการถูกบีบคั้นด้วยโค้ดและการทดลองที่ไม่มีที่สิ้นสุด

"ตอนนี้คุณจะได้ยินนักวิจัยด้าน AI พูดประโยคนี้ซ้ำๆ กันว่า 'งานของเราเหลือเวลาอีกไม่กี่วันแล้ว รีบทำเท่าที่ทำได้ตอนนี้ หลังจากนั้นเราก็พักผ่อนกันได้หมด'" Jerry Tworek อดีตรองประธานฝ่ายวิจัยของ OpenAI กล่าวถึงมุมมองที่แฝงอารมณ์ขันแบบดำมืดนี้ในการสัมภาษณ์ล่าสุด

ในมุมมองของเขา นี่ไม่ใช่เรื่องตลกธรรมดา เมื่อยุคของ "เอเจนต์เนทีฟ (agent-native)" มาถึง AI เองกำลังเข้ามารับช่วงงานวิจัยและพัฒนาอย่างรวดเร็ว "ผมประเมินคร่าวๆ ว่านักวิจัยมนุษย์จะยังคงมีบทบาทสำคัญในกระบวนการค้นพบงานวิจัยด้าน AI ไปอีกอย่างน้อยสองปี"

หลังจากออกจาก OpenAI ซึ่งเขาทำงานมาเจ็ดปี Jerry ได้ก่อตั้ง Core Automation ความทะเยอทะยานของเขาไม่ใช่แค่การพัฒนาโมเดลภาษาขนาดใหญ่ตัวต่อไป แต่คือการพยายามปรับโครงสร้างกระบวนทัศน์การดำเนินงานของบริษัท AI ใหม่ โดยใช้ AI มาวิจัยและพัฒนา AI สร้าง "ห้องปฏิบัติการ AI รุ่นที่สาม" ที่เป็นระบบอัตโนมัติเต็มรูปแบบ

ประเด็นสำคัญจากการสัมภาษณ์:

การนับถอยหลังของนักวิจัยมนุษย์: มนุษย์เหลือเวลาอีกเพียงสองปีสุดท้ายในการมีบทบาทสำคัญต่อการค้นพบงานวิจัยด้าน AI หลังจากนั้น วงจรการวิจัยและพัฒนา AI ทั้งหมด ตั้งแต่การตั้งสมมติฐานจนถึงการตรวจสอบ จะกลายเป็นระบบอัตโนมัติเต็มรูปแบบ

การผงาดขึ้นของห้องปฏิบัติการ AI รุ่นที่สาม: แตกต่างจาก DeepMind/OpenAI ยุคแรก (ขับเคลื่อนด้วยการวิจัยล้วนๆ) และห้องปฏิบัติการหลังยุค GPT-3 (มุ่งเน้นการขยายกำลังประมวลผล) ห้องปฏิบัติการรุ่นที่สามให้ความสำคัญกับ "ระบบอัตโนมัติ" เป็นอันดับแรก โดยใช้เอเจนต์ AI ต้นทุนต่ำแทนมนุษย์ในการทำงานทดลองและเขียนโค้ดที่ยุ่งยากซับซ้อน ซึ่งสามารถลดวงจรการวิจัยและพัฒนาจากหลายเดือนเหลือเพียงหนึ่งวัน

ท้าทายอำนาจของ Transformer: การลอกเลียนแบบโมเดล Transformer ของบริษัทยักษ์ใหญ่เพียงอย่างเดียวคือ "เกมที่แพ้แน่นอน" และคอขวดที่แท้จริงของความก้าวหน้าทาง AI ในปัจจุบันคือตัวสถาปัตยกรรมเอง ห้องปฏิบัติการรุ่นใหม่กำลังใช้เอเจนต์เขียนโปรแกรมเพื่อสำรวจสถาปัตยกรรมใหม่ที่เคยถูกพับเก็บไปเพราะ "ต้นทุนการลองผิดลองถูกสูงมาก" เริ่มจากศูนย์ โดยมีเป้าหมายไปที่โมเดลใหม่ที่เรียนรู้ได้ ณ เวลาทดสอบ (test time)

เปิดเผยเบื้องหลังโมเดล o1/o3: การเรียนรู้แบบเสริมกำลัง (RL) ขนาดใหญ่คือเส้นทางที่จำเป็นสู่ AGI Ilya Sutskever ทำนายแผนที่เส้นทางได้อย่างแม่นยำตั้งแต่เนิ่นๆ ในปี 2019 ความก้าวหน้าของซีรีส์ o (โมเดลให้เหตุผล) มาจากการสำรวจพื้นฐานหลายปีของทีมวิจัย และการตัดสินใจที่เด็ดขาดของผู้นำ (เช่น Jakub Pachocki) ในการจัดสรรกำลังประมวลผลอย่างเต็มที่ในช่วงเวลาสำคัญ

"AI ระดับบริษัท" จะเป็นผลิตภัณฑ์ขั้นสุดท้าย: ในอนาคต ไม่ใช่แค่ห้องปฏิบัติการ AI เท่านั้น แต่บริษัทขนาดใหญ่ทั้งหมดจะมุ่งสู่ระบบอัตโนมัติเต็มรูปแบบ ใน "ยุคหลังแรงงาน" ที่ปราศจากการทำงานซ้ำซาก มนุษย์จะมีเวลามากขึ้นในการแสวงหาความยิ่งใหญ่ทางจิตวิญญาณและร่างกาย

นับถอยหลังสองปี: ห้องปฏิบัติการ AI รุ่นที่สามบอกลา "การลงมือทำโดยมนุษย์"

Jerry Tworek แบ่งการพัฒนาห้องปฏิบัติการ AI ออกเป็นสามช่วง

รุ่นแรกมี DeepMind และ OpenAI ยุคแรกเป็นตัวแทน ซึ่งถือกำเนิดก่อนที่ "ความเป็นไปได้ของ AI ขนาดใหญ่" จะถูกพิสูจน์ เป็นองค์กร "ขับเคลื่อนด้วยการวิจัย" ที่มีเป้าหมายเพื่อบรรลุ AGI ล้วนๆ ส่วนรุ่นที่สองถือกำเนิดหลังจากการเปิดตัว GPT-3 เมื่อ Scaling Law (กฎการขยายขนาด) ได้รับการพิสูจน์ว่ามีประสิทธิภาพ ห้องปฏิบัติการต่างๆ เริ่มแข่งขันกันอย่างบ้าคลั่งเพื่อแย่งชิงกำลังประมวลผล พยายามสร้างปัญญาผ่านการขยายขนาด (โดยมี Anthropic เป็นตัวแทน)

และตอนนี้ เรากำลังเห็นการเกิดขึ้นของห้องปฏิบัติการ AI รุ่นที่สาม ซึ่งพยายามให้ความสำคัญกับ "ระบบอัตโนมัติ" เป็นอันดับแรก

ในการวิจัยและพัฒนา AI แบบดั้งเดิม การตั้งสมมติฐาน เขียนโค้ด รันการทดลองขนาดเล็ก จากนั้นระดมคนหลายสิบคนใช้เวลาหลายเดือนเพื่อขยายขนาด เป็นกระบวนการที่แพงมากและมีแรงเสียดทานมหาศาล

"ในหลายๆ ด้าน สิ่งที่เราทำอยู่ตอนนี้คือ นักวิจัยมนุษย์ยังคงรับผิดชอบในการสร้างข้อมูลเชิงลึก (Insight) และชี้ทิศทาง แต่บทบาทของเอเจนต์ (Agents) คือการทำให้กระบวนการดำเนินการง่ายขึ้นให้มากที่สุด" Jerry ชี้ให้เห็นว่า แม้เอเจนต์ในปัจจุบันจะยังไม่เก่งเรื่องการสำรวจแบบเปิดกว้างหรือการตั้งสมมติฐานที่แม่นยำมากนัก แต่ตราบใดที่คำสั่งชัดเจน ความสามารถในการดำเนินการของพวกมันก็ไร้ที่ติ

"ถ้าเราสามารถลดเวลาการทดลองจากหนึ่งเดือนเหลือหนึ่งวันได้ นั่นคือการเร่งความเร็ว 30 เท่า" Jerry คาดการณ์ว่าอีกสองปีข้างหน้า วงจรการวิจัยปัญญาประดิษฐ์ทั้งหมด ตั้งแต่การคิดไอเดียจนถึงการตรวจสอบข้อมูล จะกลายเป็นระบบอัตโนมัติเต็มรูปแบบ มนุษย์จะไม่มีบทบาทชี้ขาดอีกต่อไป เช่นเดียวกับมนุษย์ในปัจจุบันในการแข่งขันหมากรุกสากล

หลีกเลี่ยงการแข่งขันกำลังประมวลผล ทำลาย "การครองอำนาจสิบปี" ของ Transformer

ปัจจุบัน บริษัทยักษ์ใหญ่ชั้นนำเกือบทั้งหมดกำลัง "แข่งขัน" กันด้านกำลังประมวลผลบนสถาปัตยกรรม Transformer แต่ในมุมมองของ Jerry สำหรับห้องปฏิบัติการเกิดใหม่ (NeoLabs) การเดินตามเพียงอย่างเดียวคือหายนะ

"การจ้างนักวิจัยกลุ่มหนึ่งแล้วพูดว่า 'เราจะฝึกโมเดล Transformer เหมือน OpenAI และ Anthropic และพยายามแข่งขันกับพวกเขา' เป็นกลยุทธ์ที่แย่มาก นี่คือเกมที่แพ้แน่นอน"

เขาชี้ให้เห็นว่า ด้วยข้อจำกัดด้านแรงจูงใจทางเศรษฐกิจและต้นทุนการลองผิดลองถูกที่สูง บริษัทยักษ์ใหญ่จึงมีแนวโน้มที่จะเดินเส้นทางการขยายขนาดที่ปลอดภัยที่สุด แต่ประสบการณ์ในอดีตแสดงให้เห็นว่า ช่วงแรกของเทคโนโลยีใดๆ ก็ตามล้วนผ่านการเปลี่ยนแปลงขั้นพื้นฐาน "คอขวดของการพัฒนาและความก้าวหน้าที่เร็วขึ้นของเทคโนโลยี AI ในปัจจุบันคือตัวสถาปัตยกรรมเอง ซึ่งก็คือ Transformer ที่เราใช้กันมาหลายปี"

ทำไมในช่วงสิบปีที่ผ่านมาไม่มีใครแทนที่ Transformer ได้สำเร็จ? คำตอบของ Jerry คือ ต้นทุนการลองผิดลองถูกสูงเกินไป

ในอดีต นักวิจัยจะทดสอบสถาปัตยกรรมใหม่ โค้ดเขียนยากมาก แม้จะรันขนาดเล็กได้สำเร็จ การขยายขนาดยังต้องได้รับการอนุมัติกำลังประมวลผลและทรัพยากรทีมที่สูงมาก ไอเดียสร้างสรรค์มากมายถูกฆ่าตายในความล่าช้าของระบบราชการ หรือถูกกลืนหายไปกับโมเมนตัมเดิมของ Transformer

แต่ตอนนี้สถานการณ์เปลี่ยนไปแล้ว "การเขียนโค้ดถูกลงและง่ายขึ้นอย่างมาก นี่อาจเป็นวิธีปลดล็อกที่ไม่เหมือนใคร" ด้วยเอเจนต์เขียนโปรแกรม AI ต้นทุนต่ำ Core Automation กำลังพยายามสำรวจเส้นทางสถาปัตยกรรมที่เคยถูกทิ้งร้างตั้งแต่ต้น เป้าหมาย "ดาวเหนือ" ของพวกเขาชัดเจนมาก: สร้างโมเดลสถาปัตยกรรมใหม่ที่สามารถเรียนรู้ ณ เวลาทดสอบ (test time) และเรียนรู้จากการโต้ตอบกับผู้ใช้ได้

เปิดเผยเบื้องหลังความก้าวหน้าของ o1/o3 ครั้งแรก: ปาฏิหาริย์ของการเรียนรู้แบบเสริมกำลังและกำลังประมวลผล

ในฐานะผู้พัฒนาหลักของซีรีส์ o (โมเดลให้เหตุผล) ของ OpenAI Jerry ยังได้ย้อนเล่าเรื่องราวเบื้องหลังความก้าวหน้าที่พลิกโฉมนี้เป็นครั้งแรกในการสัมภาษณ์

ย้อนกลับไปเมื่อต้นปี 2019 Ilya Sutskever ได้อธิบายแผนที่เส้นทางสู่ AGI อย่างแม่นยำในการประชุมพนักงานทั้งหมด: "เราจำเป็นต้องฝึกโมเดล generative ขนาดใหญ่ด้วยข้อมูลทั้งหมดที่หาได้ จากนั้นเราจำเป็นต้องฝึกด้วยการเรียนรู้แบบเสริมกำลัง (RL)"

แม้ทิศทางจะชัดเจน แต่เส้นทางการดำเนินการกลับยาวนานและขรุขระ Jerry เปิดเผยว่า เมื่อ GPT-3 เริ่มฝึก ความคิดแรกของเขาคือจะใช้มันทำการเรียนรู้แบบเสริมกำลังได้อย่างไร Codex รุ่นแรกคือผลผลิตจากการทดลองผสมผสานโมเดลภาษาขนาดใหญ่กับการเรียนรู้แบบเสริมกำลัง อย่างไรก็ตาม ด้วยข้อจำกัดด้านข้อมูล อัลกอริทึม และการตั้งค่าการทดลอง ทีมไม่สามารถขยายขนาดได้อย่างมีประสิทธิภาพเป็นเวลานาน

"สิ่งเหล่านี้กำลังก่อตัวขึ้นอย่างเงียบๆ เบื้องหลังในตอนนั้น เป็นเวลานานที่ความพยายามไม่ให้ผลตอบแทนที่ยิ่งใหญ่"

จุดเปลี่ยนมาจาก "สัญญาณแห่งชีวิต" และการตัดสินใจที่เด็ดขาดของผู้นำ เมื่อโมเดลแสดงประกายไฟจางๆ ว่าอาจได้ผลภายใต้การเรียนรู้แบบเสริมกำลังในที่สุด Jakub Pachocki ประธานเจ้าหน้าที่ฝ่ายวิทยาศาสตร์ก็คว้าโอกาสไว้ได้อย่างเฉียบแหลม: "Jerry ตอนนี้เรามี GPU พวกนี้แล้ว ดูซิว่าเราจะเริ่มขยายขนาดสิ่งนี้ได้ไหม จะทำให้ผลลัพธ์ที่มีอยู่ใหญ่ขึ้นและแข็งแกร่งขึ้นได้ไหม"

ในห้องปฏิบัติการ AI ที่ขาดแคลนกำลังประมวลผล "ปัญหาไก่กับไข่" (มีผลลัพธ์ก่อนหรือให้กำลังประมวลผลก่อน) คือปริศนาชั่วนิรันดร์ แต่การจัดสรรกำลังประมวลผลแบบ "ลงมือทำเลย" ของผู้บริหารระดับสูงนี่เองที่จุดไฟให้ทั้งทีม

"มันทำให้เราตื่นเต้นมาก เราทุ่มเทความพยายามสามเท่าเพื่อคิดว่าต้องใช้ชุดข้อมูล ระบบ และการทดลองแบบไหนเพื่อพิสูจน์ว่ามันสามารถขยายขนาดได้อย่างต่อเนื่อง ความตื่นเต้นนำมาซึ่งผลการทดลอง และผลลัพธ์ก็สร้างโมเมนตัม" ในที่สุด ด้วยการเพิ่มขนาดของการเรียนรู้แบบเสริมกำลังขึ้นหลายอันดับความสำคัญ โมเดลให้เหตุผล o1 และ o3 ที่สร้างความตกตะลึงให้กับอุตสาหกรรมก็ถือกำเนิดขึ้น

วิสัยทัศน์สูงสุด: "AI ระดับบริษัท" และจินตนาการแห่งยุคหลังแรงงาน

เมื่อพูดถึงผลิตภัณฑ์ในอนาคตของ Core Automation สายตาของ Jerry มองไกลเกินกว่าโมเดล AI เพียงอย่างเดียว

"เราต้องการทำให้บริษัทของเราเป็นบริษัทที่เป็นระบบอัตโนมัติที่สุดในโลก และใช้เป็นพิมพ์เขียว เราจะสร้างสิ่งที่คล้ายกับ 'สมองของบริษัท' รวมข้อมูลทั้งหมดของบริษัทไว้ที่ศูนย์กลาง พนักงานเชื่อมต่อผ่านเทอร์มินัล กลายเป็นผู้ใช้ AI ของบริษัท"

เมื่อถูกถามว่า หากบริษัททั้งเล็กและใหญ่กลายเป็นระบบอัตโนมัติเต็มรูปแบบในที่สุด อนาคตของมนุษยชาติจะเป็นอย่างไร Jerry ได้ให้แนวคิด "ยุคหลังแรงงาน (post-labor)" ที่เต็มไปด้วยปรัชญา

บริษัทขนาดใหญ่ที่มีวัฒนธรรมระบบราชการหนาแน่นที่สุดจะถูกทำให้เป็นระบบอัตโนมัติก่อน AI จะเข้ามารับช่วงการส่งต่อข้อมูลและการปรับปรุงกระบวนการ นั่นหมายความว่า "การลงมือทำโดยมนุษย์" ที่มนุษย์ต้องทำเพื่อความอยู่รอดมาเป็นเวลาหนึ่งแสนปีจะค่อยๆ สิ้นสุดลง หากเหมืองสามารถดำเนินการเองได้เพื่อจัดหาทรัพยากร ซอฟต์แวร์สามารถซ่อมแซมช่องโหว่ด้วยตัวเองและพัฒนาฟีเจอร์ใหม่ได้ มนุษย์ก็ไม่จำเป็นต้องบังคับตัวเองให้ "ทำงาน" อย่างทุกข์ทรมานเพื่อให้โลกดำเนินต่อไปอีกต่อไป

แต่นั่นไม่ได้หมายถึงการสิ้นสุดของแรงงานโดยสิ้นเชิง Jerry เชื่อว่าจุดสนใจในอนาคตจะเปลี่ยนไปสู่ "การเสริมศักยภาพมนุษย์ (human augmentation)" และการแสวงหาความยิ่งใหญ่ขั้นสูงสุด

"ผมกำลังจินตนาการถึงโลกแบบที่เราใช้ชีวิตเหมือนนักปรัชญากรีกโบราณ พบปะกันที่ลานสาธารณะ ถกปรัชญากันทั้งวัน ออกกำลังกาย ทำสิ่งที่เราอยากทำ มนุษย์ควรพยายามยิ่งใหญ่ทั้งทางร่างกายและจิตใจ เหมือนกีฬาอาชีพในปัจจุบัน ที่ไม่มีเหตุผลทางเศรษฐกิจให้ทำ แต่เราพยายามเพื่อแสวงหาความยิ่งใหญ่ นี่คือส่วนที่สำคัญที่สุดสำหรับเรา"

เมื่อนาฬิกานับถอยหลังสองปีเดินติ๊กต็อก ไม่ว่าจะเป็นนักวิจัย AI หรือคนทั่วไปที่อยู่ในกระแสเศรษฐกิจฐานความรู้ บางทีอาจถึงเวลาที่ต้องคิดใหม่เกี่ยวกับนิยามของ "งาน" แล้ว