คู่มือฉบับสมบูรณ์สำหรับทศวรรษหน้า คัมภีร์การลงทุนด้าน AI สำหรับคนรุ่นใหม่ที่มีพรสวรรค์: "การตระหนักรู้ในสถานการณ์"

ผู้เขียน: @giantcutie666

ในปี 2024 เลโอโปลด์ แอสเชนเบรนเนอร์ อัจฉริยะวัยรุ่นจากยุคหลังปี 2000 ได้ลาออกจาก OpenAI เพื่อก่อตั้งกองทุน

ขณะเดียวกัน เขาก็จดบันทึกแนวคิดการลงทุนของเขาไว้:

เมื่อมองย้อนกลับไป เอกสารความยาว 165 หน้าเรื่อง "การตระหนักรู้สถานการณ์: ทศวรรษข้างหน้า" ได้กลายเป็นตำนานไปแล้ว

ผู้ที่เข้าใจเรื่องนี้เมื่อปีที่แล้ว ย่อมบรรลุอิสรภาพทางการเงินในปีนี้อย่างแน่นอน!

ฉันได้แนบฉบับภาษาอังกฤษต้นฉบับจำนวน 165 หน้าไว้ "ตรงนี้" และด้านล่างนี้คือเนื้อหาฉบับย่อ:

https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

ประเด็นหลักของบทความนี้คือ ภายในทศวรรษนี้ มนุษยชาติจะสร้างปัญญาประดิษฐ์ทั่วไป (AGI) ที่สามารถทำงานทุกอย่างได้เหมือนคนทั่วไป ตามมาด้วยปัญญาเหนือมนุษย์

ปัจจุบัน มีคนเพียงไม่กี่ร้อยคนเท่านั้นที่เข้าใจเรื่องนี้ โดยส่วนใหญ่กระจุกตัวอยู่ในไม่กี่ถนนในซานฟรานซิสโก ส่วนที่เหลือ—รวมถึงวอลล์สตรีท สื่อ และวอชิงตัน—ยังไม่เข้าใจ (บางคนในวอลล์สตรีทเริ่มตระหนักถึงเรื่องนี้ในปีนี้)

ส่วนที่หนึ่ง: เหตุใดปัญญาประดิษฐ์ทั่วไป (AGI) จึงจะมีอยู่จริงภายในปี 2027

วิธีการนี้เรียบง่ายแต่ได้ผล: อย่าคาดการณ์เวลา แต่ให้คาดการณ์ขนาดของกำลังการประมวลผล

ในช่วงสี่ปีที่ผ่านมา ตั้งแต่ GPT-2 ถึง GPT-4 "กำลังการประมวลผลที่มีประสิทธิภาพ" ของโมเดลเพิ่มขึ้นประมาณ 100,000 เท่า หรือเพิ่มขึ้นสิบเท่าทุกๆ หกเดือน!

GPT-2 เปรียบเสมือนเด็กอนุบาลที่พยายามเขียนประโยคให้เข้าใจได้ไม่ครบถ้วน ในขณะที่ GPT-4 เปรียบเสมือนนักเรียนมัธยมปลายที่ฉลาด สามารถสอบผ่านเนติบัณฑิตและแก้ปัญหาทางวิทยาศาสตร์ระดับปริญญาเอกได้

การเพิ่มขึ้นถึง 100,000 เท่านี้ มาจากสามแหล่งที่มา:

ประการแรก การลงทุนด้านฮาร์ดแวร์ พลังการประมวลผลที่ใช้สำหรับการฝึกฝนเพิ่มขึ้นมากกว่าสามเท่าในแต่ละปี กฎของมัวร์เพิ่มขึ้นเพียง 1.3 เท่าต่อปี ในขณะที่ AI พัฒนาเร็วขึ้นถึงห้าเท่าเนื่องจากการลงทุนของมนุษย์ในชิป AI โดยเฉพาะ

ประการที่สอง คือ อัลกอริทึมที่ชาญฉลาดขึ้น การบรรลุความสามารถทางคณิตศาสตร์บางอย่างในปัจจุบันใช้ต้นทุนในการให้เหตุผลน้อยกว่าเมื่อสองปีก่อนถึง 1,000 เท่า เนื่องจากวิศวกรอัลกอริทึมได้ผลักดันขีดจำกัดต่างๆ อย่างต่อเนื่อง

ประการที่สาม การปลดล็อกความสามารถที่ถูกจำกัดไว้โดยค่าเริ่มต้น (การปลดล็อกข้อจำกัด) ถือเป็นแง่มุมที่น่าสนใจที่สุด

ตัวโมเดลเองมีความสามารถมากมาย แต่ถูกจำกัดด้วยการตั้งค่าเริ่มต้น ตัวอย่างเช่น โมเดลพื้นฐานของ ChatGPT นั้นฉลาดมาก แต่กลับสร้างผลลัพธ์ที่ไร้สาระ—RLHF ได้ปลดล็อกศักยภาพของมัน

ในทำนองเดียวกัน การอนุญาตให้แบบจำลอง "คิดสักพักก่อนตอบ" (ลำดับความคิด) จะปลดล็อกความสามารถในการให้เหตุผลของมัน การให้เครื่องมือและหน่วยความจำระยะยาวแก่แบบจำลองจะปลดล็อกอีกระดับหนึ่ง

ผู้เขียนคาดการณ์ว่า ในอีกสี่ปีข้างหน้า (ภายในปี 2027) เส้นทางทั้งสามนี้จะเพิ่มขึ้นอีก 100,000 เท่า

หัวใจสำคัญอยู่ที่การปลดล็อกข้อจำกัด:

โมเดลปัจจุบันสามารถ "คิดได้เพียงไม่กี่นาที" ซึ่งประมาณไม่กี่ร้อยโทเค็น แล้วถ้าหากพวกมันสามารถ "คิดได้หลายเดือน" ซึ่งมากกว่าหนึ่งล้านโทเค็นล่ะ?

ตัวอย่างเช่น ช่องว่างระหว่างคุณกับไอน์สไตน์นั้นน้อยกว่าช่องว่างระหว่าง "คุณคิดเป็นเวลา 5 นาที" กับ "คุณคิดเป็นเวลา 5 เดือน" มาก

หากการปลดล็อกนี้เกิดขึ้น มันจะหมายถึงการก้าวหน้าทางสติปัญญาอย่างก้าวกระโดดอีก 3 ถึง 4 ระดับ ซึ่งผลลัพธ์นี้อยู่ใกล้แค่เอื้อมแล้ว

หากคาดการณ์ต่อไปอีก ในช่วงประมาณปี 2027 ปัญญาประดิษฐ์ประเภทหนึ่งจะถือกำเนิดขึ้น: สามารถทำงานได้อย่างอิสระเหมือนพนักงานที่ทำงานจากระยะไกลเป็นเวลาหลายสัปดาห์ วางแผนงาน เขียนโค้ด ทำการทดลอง แก้ไขข้อบกพร่อง และส่งผลลัพธ์ได้

มันสามารถทดแทนนักวิจัยของ OpenAI ได้อย่างสมบูรณ์ ซึ่งเป็นนิยามของ AGI ที่ผู้เขียนใช้

ความไม่แน่นอนที่ใหญ่ที่สุดมาจากข้อจำกัดด้านข้อมูล—ข้อมูลอินเทอร์เน็ตสาธารณะคุณภาพสูงกำลังถูกใช้ไปอย่างรวดเร็ว

ตอนที่สอง: AGI ไม่ใช่จุดจบ แต่เป็นจุดเริ่มต้น

จะเกิดอะไรขึ้นเมื่อ AI สามารถทำงานแทนนักวิจัย AI ได้?

ด้วยพลังการประมวลผลที่ไม่เปลี่ยนแปลง คุณจะไม่ถูกจำกัดด้วย "นักวิจัยเพียงไม่กี่ร้อยคนจาก OpenAI/Anthropic/DeepMind รวมกัน" อีกต่อไป คุณสามารถเรียกใช้นักวิจัย AI ได้ถึง 100 ล้านชุด โดยแต่ละชุดทำงานด้วยความเร็วมากกว่ามนุษย์ถึง 100 เท่า

ทุกๆ สองสามวัน ผลผลิตจะเทียบเท่ากับงานของมนุษย์ทั้งปี

นักวิจัยอัตโนมัติเหล่านี้ยังมีข้อได้เปรียบเชิงโครงสร้างอีกด้วย ได้แก่ พวกมันอ่านเอกสารทางวิชาการด้านแมชชีนเลิร์นนิงทั้งหมด จดจำทุกการทดลอง แบ่งปันความคิดระหว่างสำเนาโดยตรง และการฝึกฝนตัวหนึ่งหมายถึงการฝึกฝนทั้งหมด (ไม่จำเป็นต้องให้พนักงานใหม่แต่ละคนค่อยๆ เรียนรู้ทีละน้อย)

นี่หมายความว่า ความก้าวหน้าทางอัลกอริทึมที่เดิมทีมนุษย์ต้องใช้เวลา 10 ปี สามารถเร่งให้เสร็จได้ภายในเวลาเพียง 1 ปี

จากนั้น หนึ่งปีนี้จะสร้างแบบจำลองรุ่นใหม่ที่ฉลาดกว่าเดิม ซึ่งจะนำไปสู่การบีบอัดข้อมูลอีกรอบ การเปลี่ยนผ่านจากปัญญาประดิษฐ์ทั่วไป (AGI) ไปสู่ปัญญาเหนือมนุษย์ซึ่งมีความสามารถเหนือกว่ามนุษย์อย่างมาก อาจเกิดขึ้นได้ในเวลาเพียงไม่กี่เดือนถึงหนึ่งหรือสองปี

ผู้เขียนยอมรับว่ามีข้อจำกัดอยู่บ้าง เช่น การทดลองที่ต้องการพลังการประมวลผลสูง และถึงแม้จะมีสำเนาจำนวนมาก ก็ยังต้องรอ GPU อยู่ดี อย่างไรก็ตาม เขาแย้งว่าข้อจำกัดเหล่านี้จะเพียงแค่ชะลอการเติบโตอย่างรวดเร็วเท่านั้น ไม่ได้ป้องกันการเติบโตอย่างสมบูรณ์

ปัญญาเหนือมนุษย์มีลักษณะอย่างไร

ในแง่ของขนาด มันเหนือกว่ามนุษย์อย่างมาก โดยสามารถประมวลผลสำเนาหลายร้อยล้านชุดพร้อมกัน ผสานรวมข้อมูลข้ามสาขาวิชาได้อย่างทันที และสะสมประสบการณ์เทียบเท่ากับมนุษย์พันปีภายในเวลาเพียงไม่กี่สัปดาห์

ในเชิงคุณภาพแล้ว มันเหนือกว่ามนุษย์—อย่างเช่น AlphaGo ที่สามารถเดินหมากตัวที่ 37 ได้ (ซึ่งเป็นหมากที่ผู้เชี่ยวชาญมนุษย์ไม่สามารถคิดออกได้ในรอบหลายสิบปี) แต่ความสามารถนี้ถูกนำไปประยุกต์ใช้ได้ในทุกสาขา มันสามารถระบุช่องโหว่ของโค้ดที่มนุษย์ไม่มีวันได้เห็นในชั่วชีวิต และเขียนโค้ดที่มนุษย์ไม่มีวันเข้าใจได้

พวกเราจะเหมือนเด็กประถมที่อ่านวิทยานิพนธ์ปริญญาเอก

ผลที่ตามมาคือ: ปัญหาด้านหุ่นยนต์จะได้รับการแก้ไข (นี่เป็นปัญหาของอัลกอริธึมการเรียนรู้ของเครื่องเป็นหลัก ไม่ใช่ปัญหาด้านฮาร์ดแวร์) ชีววิทยาสังเคราะห์จะถูกนำมาใช้เป็นอาวุธ และฝูงโดรนล่องหนสามารถทำลายอาวุธนิวเคลียร์ได้ก่อนล่วงหน้า

ดุลอำนาจทางทหารระหว่างประเทศทั้งหมดจะเปลี่ยนแปลงไปภายในเวลาไม่กี่ปี

ส่วนที่สาม: สี่ปัญหาเร่งด่วนอย่างแท้จริง

ปัญหาที่หนึ่ง: กลุ่มอุตสาหกรรมมูลค่าล้านล้านดอลลาร์

การแข่งขันนี้ไม่ได้เป็นเพียงแค่การเขียนโค้ดเท่านั้น แต่เป็นการระดมพลังภาคอุตสาหกรรม

แต่ละรุ่นของโปรเซสเซอร์ต้องการคลัสเตอร์ขนาดใหญ่ขึ้น และคลัสเตอร์ขนาดใหญ่ขึ้นก็ต้องการโรงไฟฟ้า ซึ่งในทางกลับกันก็ต้องการโรงงานผลิตชิป

หากเติบโตในอัตราปัจจุบัน คาดว่าจะมีการรวมกลุ่มโรงไฟฟ้าพลังงานแสงอาทิตย์ขนาด 1 กิกะวัตต์ภายในปี 2026 (เทียบเท่ากับกำลังการผลิตของเขื่อนฮูเวอร์) 10 กิกะวัตต์ภายในปี 2028 (เทียบเท่ากับรัฐขนาดกลางของสหรัฐฯ) และ 100 กิกะวัตต์ภายในปี 2030 (มากกว่า 20% ของการผลิตไฟฟ้าทั้งหมดในสหรัฐฯ)

ขนาดของการลงทุนอาจสูงเกิน 1 ล้านล้านดอลลาร์สหรัฐต่อปีภายในปี 2027

ปัญหาคอขวดที่แท้จริงไม่ใช่เงินหรือการ์ดจอ แต่เป็นไฟฟ้า คำถามที่กำลังเป็นที่พูดถึงมากที่สุดในซานฟรานซิสโกตอนนี้คือ "จะหาไฟฟ้า 10 กิกะวัตต์ได้จากที่ไหน"

ในการสร้างสิ่งนี้ภายในประเทศสหรัฐอเมริกา จำเป็นต้องผ่อนปรนข้อกำหนดด้านสิ่งแวดล้อม และต้องใช้อำนาจของรัฐบาลกลางในการปลดล็อกที่ดิน ซึ่งผู้เขียนได้ยกระดับประเด็นนี้ไปสู่ระดับความมั่นคงของชาติ

หากสหรัฐฯ ไม่สามารถสร้างได้ กลุ่มอุตสาหกรรมเหล่านี้จะย้ายไปยังสหรัฐอาหรับเอมิเรตส์หรือซาอุดีอาระเบีย ซึ่งเท่ากับเป็นการส่งมอบกุญแจสำคัญของปัญญาประดิษฐ์ทั่วไป (AGI) ให้กับประเทศเผด็จการ

ปัญหาที่สอง: ห้องปฏิบัติการมีช่องโหว่

ห้องปฏิบัติการ AI ในปัจจุบันมีระดับความปลอดภัยเทียบเท่ากับบริษัทสตาร์ทอัพทั่วไปในซิลิคอนแวลลีย์

Google DeepMind (ซึ่งเป็นบริษัทที่ดีที่สุดในอุตสาหกรรม) ยอมรับว่าความสามารถในการป้องกันภัยคุกคามระดับรัฐของตนอยู่ในระดับ 0 (จากระดับสูงสุด 4)

นี่หมายความว่าอย่างไร? โดยพื้นฐานแล้ว "น้ำหนัก" ของโมเดล AGI คือไฟล์ขนาดใหญ่ที่จัดเก็บอยู่บนเซิร์ฟเวอร์

หากไฟล์นี้ถูกขโมยไป มันก็เหมือนกับการมอบ "นักวิจัย AI อัตโนมัติ" ให้กับจีนโดยตรง พวกเขาสามารถสร้างความก้าวหน้าทางปัญญาอย่างรวดเร็วและทำให้ความก้าวหน้าทั้งหมดของสหรัฐฯ เป็นโมฆะ

สิ่งที่เร่งด่วนกว่านั้นคือ ความลับทางอัลกอริทึม ซึ่งเป็นกุญแจสำคัญสำหรับการเปลี่ยนแปลงครั้งใหญ่ในอนาคต (วิธีการทำลายกำแพงข้อมูล) กำลังก่อตัวขึ้นในช่องทาง Slack และนอกโต๊ะทำงานของบริษัทต่างๆ ในซานฟรานซิสโก

ผู้เขียนยืนยันว่า ภายใน 12 ถึง 24 เดือนข้างหน้า ความก้าวหน้าครั้งสำคัญของปัญญาประดิษฐ์ทั่วไป (AGI) จะรั่วไหลไปยังประเทศจีน นี่ไม่ใช่ความเป็นไปได้ แต่เป็นสิ่งที่เกือบจะแน่นอน

เพื่อให้ได้ระดับความปลอดภัยที่สามารถต้านทานกำลังทั้งหมดของกระทรวงความมั่นคงแห่งรัฐของจีนได้ จำเป็นต้องมีการแยกส่วนในระดับฮาร์ดแวร์ การตรวจสอบประวัติบุคลากรในระดับเดียวกับวิศวกรสร้างระเบิดปรมาณู และคลัสเตอร์ที่ออกแบบมาเป็นพิเศษ ซึ่งสิ่งเหล่านี้จะต้องใช้เวลาอย่างน้อยสองสามปีในการพัฒนาและสร้างขึ้น หากไม่ดำเนินการทันที เมื่อปัญญาประดิษฐ์ทั่วไป (AGI) สำเร็จในปี 2027 ระบบรักษาความปลอดภัยจะตามไม่ทัน ทำให้เหลือเพียงสองทางเลือกที่แย่ คือ มอบอำนาจให้ประเทศอื่น หรือหยุดและรอจนกว่าระบบรักษาความปลอดภัยจะถูกสร้างขึ้น (ซึ่งอาจทำให้เสียความเป็นผู้นำไป)

ปัญหาที่สาม: ปัญหาเรื่องการจัดแนว

เทคโนโลยีการปรับตั้งค่าในปัจจุบันเรียกว่า RLHF ซึ่งมนุษย์จะให้คะแนนโมเดล และโมเดลจะเรียนรู้ที่จะทำให้มนุษย์พึงพอใจ

วิธีนี้มีประสิทธิภาพเมื่อเทียบกับ AI ที่ยังไม่ฉลาดเท่ามนุษย์ แต่เมื่อ AI ฉลาดกว่ามนุษย์หลายเท่าตัว วิธีนี้จะล้มเหลวโดยสิ้นเชิง—คุณจะประเมินวิทยานิพนธ์ปริญญาเอกได้อย่างไรในเมื่อคุณไม่เข้าใจ?

การเพิ่มขึ้นอย่างรวดเร็วของข้อมูลข่าวกรองทำให้ประเด็นนี้ตึงเครียดอย่างมาก:

ภายในเวลาไม่ถึงหนึ่งปี การเปลี่ยนแปลงจาก "RLHF ยังใช้งานได้" ไปสู่ "RLHF ล้มเหลวโดยสิ้นเชิง" ก็เกิดขึ้นอย่างฉับพลัน โดยไม่มีเวลาให้ลองผิดลองถูกซ้ำแล้วซ้ำเล่า

ในขณะเดียวกัน สถานการณ์ก็เปลี่ยนจาก "ข้อผิดพลาดเล็กน้อย" (เช่น การสบถของ ChatGPT) ไปเป็น "ข้อผิดพลาดร้ายแรง" (เช่น ปัญญาประดิษฐ์ขั้นสูงหลุดออกจากคลัสเตอร์เพื่อแฮ็กระบบทางทหาร)

สถาปัตยกรรมระดับกลางต้องผ่านวิวัฒนาการหลายชั่วรุ่น และเราจะยังไม่เข้าใจว่าปัญญาประดิษฐ์ขั้นสูงสุดคิดอย่างไร

โมเดลปัจจุบันใช้โทเค็นภาษาอังกฤษในการให้เหตุผล (ซึ่งค่อนข้างโปร่งใส) แต่ในอนาคต มีแนวโน้มที่จะพัฒนาไปสู่การให้เหตุผลโดยใช้สถานะแฝงภายใน ซึ่งไม่สามารถอธิบายได้อย่างสมบูรณ์

ผู้เขียนมองในแง่ดีเกี่ยวกับแนวทางแก้ไขทางเทคนิค: มีวิธีแก้ปัญหาที่ทำได้ง่ายอยู่มากมาย และงานวิจัยด้านความสามารถในการอธิบายก็กำลังมีความคืบหน้า

อย่างไรก็ตาม เขาค่อนข้างมองโลกในแง่ร้ายเกี่ยวกับการดำเนินงานขององค์กร เพราะมีคนจริงจังเพียงไม่กี่สิบคนทั่วโลกที่ทำงานด้านนี้ และห้องปฏิบัติการก็ไม่มีทีท่าว่าจะใส่ใจเรื่องความปลอดภัยเลย "เราพึ่งพาโชคมากเกินไป"

ปัญหาที่สี่: โลกเสรีต้องเป็นฝ่ายชนะ

ผู้เขียนใช้เวลามากในการโต้แย้งว่าบางประเทศไม่เพียงแต่ยังคงอยู่ในสนามแข่งขันเท่านั้น แต่ยังมีความสามารถในการแข่งขันสูงมากอีกด้วย

ในแง่ของพลังการประมวลผล: ชิป 7 นาโนเมตรของหัวเว่ย (ผลิตโดย SMIC) มีประสิทธิภาพในระดับเดียวกับ NVIDIA A100 โดยมีอัตราส่วนต้นทุนต่อประสิทธิภาพที่แย่กว่า 2-3 เท่า แต่ก็ยังเพียงพอต่อการใช้งาน

ในแง่ของศักยภาพในการก่อสร้าง: ในช่วงทศวรรษที่ผ่านมา จีนได้เพิ่มกำลังการผลิตไฟฟ้าเทียบเท่ากับกำลังการผลิตติดตั้งทั้งหมดของสหรัฐอเมริกา ในแง่ของการระดมกำลังทางอุตสาหกรรมเพื่อสร้างกลุ่มโรงไฟฟ้าขนาด 100 กิกะวัตต์ จีนอาจแข็งแกร่งกว่าสหรัฐอเมริกา

ช่องทางการโจรกรรม: ตราบใดที่ห้องปฏิบัติการของสหรัฐฯ ยังไม่มีระบบรักษาความปลอดภัยที่ดี อัลกอริทึมสำคัญๆ ก็จะรั่วไหลออกมาภายในสองปีอย่างหลีกเลี่ยงไม่ได้

มีเหตุการณ์บังเอิญที่น่ากังวลเกิดขึ้นบนไทม์ไลน์: ไทม์ไลน์ของ AGI (~2027) มาบรรจบกับช่วงเวลาสำหรับผู้สังเกตการณ์ช่องแคบไต้หวันเกี่ยวกับการโจมตีไต้หวันที่อาจเกิดขึ้นของพรรคคอมมิวนิสต์จีน (~2027) "จุดจบของ AGI อาจเกิดขึ้นท่ามกลางฉากหลังของสงครามโลก"

ข้อสรุปของผู้เขียนคือ สหรัฐฯ ต้องรักษา "ความเป็นผู้นำที่เหมาะสม" ไว้ ซึ่งเขาแนะนำว่าควรเป็นเวลาสองปี ระยะเวลาสองปีนี้มีจุดประสงค์เพื่อสร้างเสถียรภาพให้กับสถานการณ์และเจรจาเกี่ยวกับระเบียบระหว่างประเทศในยุคปัญญาประดิษฐ์ขั้นสูงกับจีน

หากนำอยู่น้อยกว่านี้ โลกทั้งใบจะตกอยู่ใน "การแข่งขันเพื่อความอยู่รอดผ่านการระเบิดทางสติปัญญา" ขอบเขตความปลอดภัยทั้งหมดจะหมดไป และทุกคนจะแข่งกันทำความเร็วอย่างบ้าคลั่ง

ส่วนที่สี่: โครงการ (เวอร์ชัน AGI ของโครงการแมนฮัตตัน)

ณ จุดนี้ ผู้เขียนได้นำเสนอการคาดการณ์ที่กล้าหาญที่สุดของหนังสือทั้งเล่ม

"เป็นไปไม่ได้ที่รัฐบาลสหรัฐฯ จะให้บริษัทสตาร์ทอัพแนวไซไฟพัฒนาปัญญาประดิษฐ์ขั้นสูง" ลองนึกภาพการใช้ Uber ในการพัฒนาอาวุธนิวเคลียร์ในสมัยก่อนดูสิ

การคาดการณ์: ในช่วงใดช่วงหนึ่งของปี 2027 หรือ 2028 หน่วยงานด้านความมั่นคงแห่งชาติของสหรัฐฯ จะเข้ามารับช่วงโครงการปัญญาประดิษฐ์ทั่วไป (AGI) ในรูปแบบใดรูปแบบหนึ่ง ซึ่งอาจอยู่ในรูปแบบของบริษัทรับเหมาด้านกลาโหม (OpenAI กลายเป็น Lockheed Martin) รูปแบบการร่วมทุน (ผู้ให้บริการคลาวด์ + ห้องปฏิบัติการ + รัฐบาล) หรือแม้กระทั่งการโอนกิจการเป็นของรัฐอย่างสุดขั้ว

นักวิจัยหลักจะย้ายเข้าไปอยู่ในสถานที่ที่มีการรักษาความปลอดภัยระดับ SCIF และคลัสเตอร์มูลค่าหลายล้านล้านดอลลาร์จะถูกสร้างขึ้นด้วยความเร็วระดับเดียวกับช่วงสงคราม

เส้นทางนี้จะเริ่มปรากฏให้เห็น: ในปี 2026/27 การสาธิตความสามารถที่น่าหวาดกลัวอย่างแท้จริงครั้งแรกจะเกิดขึ้น ซึ่งอาจเป็นการ "ช่วยเหลือผู้เริ่มต้นสร้างอาวุธชีวภาพ" หรือปัญญาประดิษฐ์ (AI) แฮ็กเข้าไปในโครงสร้างพื้นฐานที่สำคัญได้โดยอัตโนมัติ

เมื่อรายละเอียดเกี่ยวกับการแทรกซึมของพรรคคอมมิวนิสต์จีนเข้าไปในห้องปฏิบัติการต่างๆ ถูกเปิดเผย บรรยากาศในวอชิงตันจะเปลี่ยนแปลงไปอย่างมาก คำถามที่ว่า "เราจำเป็นต้องมีโครงการแมนฮัตตันสำหรับปัญญาประดิษฐ์ทั่วไปหรือไม่?" จะค่อยๆ กลายเป็นหัวข้อสำคัญอันดับหนึ่ง แล้วก็กลายเป็นประเด็นร้อนขึ้นมาทันที

ทำไมต้องเป็นรัฐบาล? เพราะปัญญาประดิษฐ์ขั้นสูงนั้นเปรียบได้กับอาวุธนิวเคลียร์ ไม่ใช่เทคโนโลยีอินเทอร์เน็ต