دليل شامل للعقد القادم، مرجع استثمار الذكاء الاصطناعي للشباب الموهوبين: "الوعي الظرفي"

المؤلف: @giantcutie666

في عام 2024، غادر ليوبولد أشينبرينر، وهو عبقري مراهق من جيل ما بعد الألفية الثانية، شركة OpenAI ليبدأ صندوقًا استثماريًا.

وفي الوقت نفسه، قام بتدوين أفكاره الاستثمارية:

بالنظر إلى الوراء الآن، أصبحت هذه الورقة المكونة من 165 صفحة بعنوان "الوعي الظرفي: العقد القادم" أسطورية.

أولئك الذين فهموا ذلك العام الماضي حققوا بالتأكيد الحرية المالية هذا العام!

لقد وضعت النسخة الإنجليزية الأصلية المكونة من 165 صفحة "هنا"، وفيما يلي نسخة مختصرة من المحتوى:

https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

النقطة الرئيسية في الورقة البحثية هي: خلال هذا العقد، ستخلق البشرية الذكاء الاصطناعي العام (القادر على أداء جميع مهام الشخص العادي)، وسيتبعه عن كثب الذكاء الخارق.

حالياً، لا يفهم هذا الأمر سوى أقل من بضع مئات من الأشخاص، ومعظمهم متمركزون في بضعة شوارع في سان فرانسيسكو. أما البقية - بمن فيهم وول ستريت ووسائل الإعلام وواشنطن - فلم يدركوا ذلك بعد (وقد بدأ بعض العاملين في وول ستريت يدركون ذلك هذا العام).

الجزء الأول: لماذا سيوجد الذكاء الاصطناعي العام بحلول عام 2027

الطريقة بسيطة لكنها فعالة: لا تتنبأ بالوقت، بل تنبأ بحجم قوة الحوسبة.

في السنوات الأربع الماضية، من GPT-2 إلى GPT-4، زادت "قوة الحوسبة الفعالة" للنموذج بحوالي 100000 مرة، وتنمو عشرة أضعاف كل ستة أشهر!

كان GPT-2 أشبه بطفل في الروضة يكافح لكتابة جمل نصف متماسكة، بينما GPT-4 أشبه بطالب ذكي في المدرسة الثانوية قادر على اجتياز امتحان نقابة المحامين وحل المشكلات العلمية على مستوى الدكتوراه.

تأتي هذه الزيادة التي تبلغ 100 ألف ضعف من ثلاثة مصادر:

أولاً، الاستثمار في الأجهزة. لقد زادت القدرة الحاسوبية المستخدمة للتدريب بأكثر من ثلاثة أضعاف كل عام. بينما لا يتجاوز معدل نمو قانون مور 1.3 مرة سنوياً، في حين تسارع نمو الذكاء الاصطناعي خمسة أضعاف بفضل الاستثمار البشري في رقائق الذكاء الاصطناعي المتخصصة.

ثانياً، خوارزميات أكثر ذكاءً. إن تحقيق قدرة رياضية معينة اليوم يكلف 1000 مرة أقل في الاستدلال مما كان عليه قبل عامين، وذلك بفضل مهندسي الخوارزميات الذين يدفعون الحدود.

ثالثًا، يُعدّ إطلاق القدرات المكبوتة افتراضيًا (إلغاء القيود) الجانب الأكثر إثارة للاهتمام.

يتمتع النموذج نفسه بقدرات عديدة، ولكنه مقيد بالإعدادات الافتراضية. فعلى سبيل المثال، كان النموذج الأساسي لـ ChatGPT ذكيًا للغاية، ولكنه كان ينتج مخرجات غير منطقية، وقد أطلق RLHF العنان لإمكانياته.

وبالمثل، فإن السماح للنموذج بالتفكير ملياً قبل الإجابة (سلسلة الأفكار) قد أطلق العنان لقدرته على الاستدلال. كما أن تزويده بالأدوات والذاكرة طويلة المدى يفتح طبقة أخرى.

ويتوقع المؤلف أنه في السنوات الأربع المقبلة (بحلول عام 2027)، ستزداد هذه المسارات الثلاثة بمقدار 100000 مرة أخرى.

يكمن جوهر الفكرة في التحرر من القيود:

لا تستطيع النماذج الحالية التفكير إلا لبضع دقائق - أي ما يعادل بضع مئات من الرموز. ماذا لو استطاعت التفكير لعدة أشهر - أي ما يزيد عن مليون رمز؟

على سبيل المثال، الفجوة بينك وبين أينشتاين أقل بكثير من الفجوة بين "أنت تفكر لمدة 5 دقائق" و "أنت تفكر لمدة 5 أشهر".

إذا تحقق هذا الكشف، فسيمثل قفزة نوعية في الذكاء بمقدار ثلاثة إلى أربعة أضعاف. هذه الثمرة باتت في متناول اليد.

وبناءً على ذلك، فإنه بحلول عام 2027 تقريباً، سيظهر نوع من الذكاء الاصطناعي: قادر على العمل بشكل مستقل مثل موظف عن بعد لأسابيع، وتخطيط المهام، وكتابة التعليمات البرمجية، وإجراء التجارب، وإصلاح الأخطاء، وتقديم النتائج.

يمكن أن يحل محل باحث OpenAI بشكل كامل، وهو ما يعرفه المؤلف بأنه الذكاء الاصطناعي العام.

يأتي أكبر قدر من عدم اليقين من جدار البيانات - حيث يتم استهلاك بيانات الإنترنت العامة عالية الجودة بسرعة.

الجزء الثاني: الذكاء الاصطناعي العام ليس النهاية، بل نقطة الانطلاق

ماذا سيحدث عندما يصبح بإمكان الذكاء الاصطناعي القيام بعمل باحثي الذكاء الاصطناعي؟

مع بقاء قوة الحوسبة دون تغيير، لم تعد مقيدًا بـ "بضع مئات من الباحثين في OpenAI/Anthropic/DeepMind مجتمعين" - يمكنك تشغيل 100 مليون نسخة من باحثي الذكاء الاصطناعي، كل منهم يعمل بسرعة 100 ضعف السرعة البشرية.

كل بضعة أيام، كان الناتج يعادل عاماً كاملاً من العمل البشري.

يتمتع هؤلاء الباحثون الآليون أيضًا بمزايا هيكلية: فهم يقرؤون جميع أوراق التعلم الآلي، ويتذكرون كل تجربة، ويتبادلون الأفكار مباشرة بين النسخ، وتدريب نسخة واحدة يعني تدريبهم جميعًا (لا حاجة لكل موظف جديد للوصول إلى السرعة المطلوبة ببطء).

وهذا يعني: أن التقدم الخوارزمي الذي كان سيستغرق في الأصل 10 سنوات من قبل البشر يمكن ضغطه في عام واحد فقط.

بعد ذلك، سيُنتج هذا العام نموذجًا أكثر ذكاءً من الجيل التالي، مما سيؤدي إلى جولة أخرى من التطور. وقد يحدث الانتقال من الذكاء الاصطناعي العام إلى الذكاء الخارق الذي يتجاوز القدرات البشرية بكثير في غضون بضعة أشهر إلى سنة أو سنتين فقط.

يُقرّ الكاتب بوجود معوقات، مثل التجارب التي تتطلب قدرة حاسوبية عالية، وحتى مع وجود نسخ متعددة، لا يزال يتعين انتظار وحدات معالجة الرسومات. ومع ذلك، يجادل بأن هذه المعوقات لن تُبطئ الانتشار إلا قليلاً، ولن تمنعه.

كيف يبدو الذكاء الخارق

من حيث النطاق، فهو يتجاوز البشر - حيث يقوم بتشغيل مئات الملايين من النسخ بالتوازي، ويتكامل على الفور عبر جميع التخصصات، ويجمع ما يعادل ألف عام من الخبرة البشرية في غضون أسابيع.

من الناحية النوعية، يتفوق على البشر - كما فعل برنامج ألفا غو عندما قام بالخطوة رقم 37 (وهي خطوة لم يستطع الخبراء البشريون تصورها لعقود)، ولكن هذا ينطبق على جميع المجالات. فهو قادر على تحديد ثغرات برمجية لا يمكن للبشر رؤيتها طوال حياتهم، وكتابة أكواد لا يمكن للبشر فهمها.

سنكون مثل طلاب المرحلة الابتدائية الذين يقرؤون أطروحات الدكتوراه.

والنتائج هي: سيتم حل مشكلة الروبوتات (وهي في الأساس مشكلة خوارزمية التعلم الآلي، وليست مشكلة تتعلق بالأجهزة)، وسيتم تسليح البيولوجيا التركيبية، ويمكن لأسراب الطائرات المسيرة الشبحية أن تدمر الأسلحة النووية بشكل استباقي.

سينقلب التوازن العسكري الدولي برمته في غضون بضع سنوات.

الجزء الثالث: أربع مشاكل ملحة حقاً

المشكلة الأولى: تجمعات بقيمة تريليون دولار

لا تقتصر هذه المسابقة على كتابة المبرمجين للبرامج فحسب، بل هي تعبئة صناعية.

كل جيل من النماذج يتطلب مجموعات أكبر، والمجموعات الأكبر تتطلب محطات طاقة، والتي بدورها تحتاج إلى مصانع رقائق.

بالوتيرة الحالية: مجموعة 1 جيجاواط بحلول عام 2026 (ما يعادل قوة سد هوفر)، و10 جيجاواط بحلول عام 2028 (ما يعادل ولاية أمريكية متوسطة الحجم)، و100 جيجاواط بحلول عام 2030 (أكثر من 20٪ من إجمالي توليد الكهرباء في الولايات المتحدة).

قد يتجاوز حجم الاستثمار تريليون دولار سنوياً بحلول عام 2027.

العائق الحقيقي ليس المال أو وحدات معالجة الرسومات، بل الكهرباء. "أين أجد 10 جيجاواط؟" هو الموضوع الأكثر تداولاً في عالم الخيال العلمي حالياً.

لبناء هذا محلياً في الولايات المتحدة، يجب تخفيف الموافقات البيئية، ويجب استخدام السلطة الفيدرالية لفتح الأراضي - ويرفع المؤلف هذا الأمر إلى مستوى الأمن القومي.

إذا لم تتمكن الولايات المتحدة من بناء ذلك، فستنتقل المجموعات إلى الإمارات العربية المتحدة أو المملكة العربية السعودية، مما يعني فعلياً تسليم مفاتيح الذكاء الاصطناعي العام إلى الدول الاستبدادية.

المشكلة الثانية: المختبرات بها تسريبات

تتمتع مختبرات الذكاء الاصطناعي الحالية بمستويات أمان تعادل مستويات الأمان في الشركات الناشئة العادية في وادي السيليكون.

تعترف شركة جوجل ديب مايند (الأفضل في هذا المجال) بأن قدرتها الدفاعية ضد الخصوم على مستوى الدولة هي في المستوى 0 (من أصل 4 كحد أقصى).

ماذا يعني هذا؟ إن "أوزان" نماذج الذكاء الاصطناعي العام هي في الأساس ملف كبير على خادم.

إذا سُرق هذا الملف، فسيكون الأمر أشبه بتسليم "باحثي الذكاء الاصطناعي الآلي" مباشرة إلى الصين - حيث يمكنهم على الفور إحداث طفرة استخباراتية خاصة بهم، مما يلغي جميع التقدمات الأمريكية.

وبشكل أكثر إلحاحاً، تتشكل الأسرار الخوارزمية - وهي الاختراقات الرئيسية لنموذج الجيل القادم (كيفية كسر جدار البيانات) - في قنوات Slack وخارج مكاتب الشركات المختلفة في سان فرانسيسكو.

يؤكد الكاتب: خلال الـ 12 إلى 24 شهرًا القادمة، ستتسرب اختراقات حاسمة في مجال الذكاء الاصطناعي العام إلى الصين. هذا ليس احتمالًا، بل هو شبه مؤكد.

لتحقيق مستوى أمني قادر على الصمود أمام قوة وزارة أمن الدولة الصينية، يلزم عزل الأجهزة، وإجراء فحوصات أمنية دقيقة على مستوى مهندسي القنابل الذرية، وإنشاء مجموعات حاسوبية مصممة خصيصًا - سيستغرق تطوير هذه الإجراءات وبنائها بضع سنوات على الأقل. إذا لم يُتخذ إجراء فوري، فعند تحقيق الذكاء الاصطناعي العام في عام 2027، لن يواكب الأمن هذا التطور، ولن يتبقى سوى خيارين سيئين: إما تسليمه لدول أخرى أو التوقف والانتظار حتى يتم بناء نظام أمني متكامل (مما قد يؤدي إلى فقدان الريادة).

المشكلة الثالثة: مشاكل المحاذاة

تُسمى تقنية المحاذاة الحالية RLHF - حيث يقوم البشر بتقييم النموذج، ويتعلم النموذج إرضاء البشر.

هذه الطريقة فعالة مقارنةً بالذكاء الاصطناعي الذي لا يمتلك قدرات بشرية. ولكن بمجرد أن يصبح الذكاء الاصطناعي أذكى من البشر بعدة مراتب، تفشل هذه الطريقة تمامًا - فكيف يمكنك تقييم أطروحة دكتوراه لا يمكنك فهمها؟

إن الانفجار الاستخباراتي يجعل هذه القضية شديدة التوتر:

في أقل من عام، تحدث القفزة من "RLHF لا يزال يعمل" إلى "RLHF يفشل تمامًا"، دون وجود وقت للتجربة والخطأ المتكررين.

وفي الوقت نفسه، ينتقل الأمر من "أخطاء طفيفة" (مثل استخدام ChatGPT للشتائم) إلى "أخطاء كارثية" (مثل هروب ذكاء خارق من المجموعة لاختراق الأنظمة العسكرية).

تخضع البنية الوسيطة لأجيال متعددة من التطور، ولن نفهم كيف يفكر الذكاء الخارق النهائي.

تستخدم النماذج الحالية الرموز الإنجليزية في التفكير (وهي شفافة نسبياً)، ولكن في المستقبل، من المرجح أن تتطور إلى التفكير باستخدام الحالات الكامنة الداخلية - وهي غير قابلة للتفسير تماماً.

يتفاءل المؤلف بشأن الحلول التقنية: فهناك العديد من الفرص السهلة المنال، ويجري إحراز تقدم في أبحاث قابلية التفسير.

لكنه متشائم للغاية بشأن التنفيذ التنظيمي، إذ لا يتجاوز عدد الأشخاص الجادين العاملين على هذا المشروع بضع عشرات على مستوى العالم، ولا تُظهر المختبرات أي مؤشرات على استعدادها للتضحية بسلامتها. "نحن نعتمد بشكل مفرط على الحظ".

المشكلة الرابعة: يجب أن ينتصر العالم الحر

يقضي المؤلف وقتاً طويلاً في الجدال بأن بعض الدول ليست فقط لا تزال في المنافسة، بل إنها أيضاً شديدة التنافسية.

من حيث قوة الحوسبة: تعمل رقائق هواوي 7 نانومتر (التي تنتجها شركة SMIC) على مستوى معالج A100 من NVIDIA، مع نسبة تكلفة إلى أداء أسوأ بمقدار 2-3 مرات ولكنها لا تزال كافية.

من حيث القدرة الإنشائية: أضافت الصين قدرة توليد طاقة خلال العقد الماضي تعادل إجمالي القدرة المركبة في الولايات المتحدة. أما فيما يتعلق بالتعبئة الصناعية لبناء مجمع طاقة بقدرة 100 جيجاواط، فقد تكون الصين أقوى من الولايات المتحدة.

مسارات السرقة: طالما أن المختبرات الأمريكية غير مؤمنة، فإن الخوارزميات الرئيسية ستتسرب حتماً في غضون عامين.

ثمة تزامنٌ مثيرٌ للقلق في الجدول الزمني: يتزامن الجدول الزمني للذكاء الاصطناعي العام (حوالي عام ٢٠٢٧) مع الفترة الزمنية المتاحة للمراقبين في مضيق تايوان بشأن احتمال شنّ الحزب الشيوعي الصيني هجومًا على تايوان (حوالي عام ٢٠٢٧). "قد تتكشف نهاية لعبة الذكاء الاصطناعي العام على خلفية حرب عالمية."

يخلص الكاتب إلى أن على الولايات المتحدة الحفاظ على "تقدم مريح" - ويقترح فترة عامين. تهدف هذه الفترة الفاصلة إلى استقرار الوضع والتفاوض مع الصين بشأن النظام الدولي لعصر الاستخبارات الفائقة.

إذا لم يكن التقدم بهذا القدر، فسوف ينغمس العالم بأسره في "سباق بقاء من خلال انفجار استخباراتي" - ستختفي جميع هوامش الأمان، وسيتسابق الجميع بتهور من أجل السرعة.

الجزء الرابع: المشروع (نسخة الذكاء الاصطناعي العام من مشروع مانهاتن)

في هذه المرحلة، يقدم المؤلف التنبؤ الأكثر جرأة في الكتاب بأكمله.

"من المستحيل على الحكومة الأمريكية أن تسمح لشركة ناشئة في مجال الخيال العلمي بتطوير ذكاء خارق." تخيل استخدام أوبر لتطوير القنبلة الذرية في الماضي.

توقع: في وقت ما بين عامي 2027 و2028، ستتولى أجهزة الأمن القومي الأمريكية مشروع الذكاء الاصطناعي العام بشكل أو بآخر. قد يتخذ هذا شكل نموذج مقاول دفاعي (تحول OpenAI إلى شركة لوكهيد مارتن)، أو نموذج مشروع مشترك (مزودو خدمات سحابية + مختبرات + حكومة)، أو حتى تأميم كامل.

سينتقل الباحثون الأساسيون إلى مرافق آمنة مصنفة ضمن فئة SCIF، وسيتم بناء مجمعات بقيمة تريليون دولار بسرعة زمن الحرب.

سيتشكل المسار: في عامي 2026/27، سيحدث أول عرض تجريبي مخيف حقًا للقدرات - ربما "مساعدة المبتدئين على إنشاء أسلحة بيولوجية"، أو قيام الذكاء الاصطناعي باختراق البنية التحتية الحيوية بشكل مستقل.

مع الكشف عن تفاصيل تسلل الحزب الشيوعي الصيني إلى المختبرات، سيتغير الجو في واشنطن بشكل جذري. سيصبح السؤال "هل نحن بحاجة إلى مشروع ذكاء اصطناعي عام في مانهاتن؟" الموضوع الرئيسي، تدريجياً ثم فجأة.

لماذا يجب أن تكون الحكومة هي المسؤولة؟ لأن الذكاء الخارق أشبه بالأسلحة النووية، وليس تكنولوجيا الإنترنت.