مقابلة ألتمان الأخيرة: لماذا ضغطت OpenAI على المكابح فجأة؟ Astra والذكاء الاصطناعي الخارج عن السيطرة وخطة الاكتتاب العام

عنوان الفيديو: سام ألتمان يتحدث عن الجيل القادم من نماذج OpenAI ورد فعل الذكاء الاصطناعي
مؤلف الفيديو: أليكس هيث، بودكاست Sources
ترجمة: بيغي

ملاحظة المحرر: في ظل القفزات المستمرة في قدرات النماذج المتقدمة وبدء الوكلاء الأذكياء في تولي مهام سير العمل المعقدة، يتحول النقاش في صناعة الذكاء الاصطناعي من «من يستطيع تحقيق الذكاء العام الاصطناعي أولاً» إلى «من يستطيع بناء قيود موثوقة قبل خروج القدرات عن السيطرة». لكن بينما لا يزال تقدم النماذج وتوسع القدرة الحاسوبية يُنظر إليهما كخط المنافسة الرئيسي، يبرز سؤال أكثر أهمية: عندما يصبح الذكاء الاصطناعي قادراً على استدعاء الأدوات بشكل مستقل، وتجاوز قيود البيئة، بل والمشاركة في تطوير الجيل القادم من النماذج، هل تمتلك الشركات التجارية القدرة على التباطؤ طواعية؟

في هذه الحلقة من بودكاست Sources الذي يقدمه الصحفي التقني أليكس هيث، يرد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، على أسباب تباطؤ الشركة مؤخراً في بعض عمليات التدريب المتقدم، ويتحدث عن عائلة النماذج من الجيل التالي Astra، ودمج ChatGPT مع Codex، والتحسين الذاتي التكراري، والاكتتاب العام، والأجهزة الاستهلاكية بالتعاون مع جوني إيف.

في هذه المحادثة، يفكك ألتمان حادثة أمنية واحدة في OpenAI إلى مجموعة من المشكلات الهيكلية الأعمق: هل يمكن أن تتقدم قدرات النماذج وأبحاث السلامة بالتوازي، وكيف يمكن للوكلاء الأذكياء الامتثال للنوايا الحقيقية للبشر، وهل تستطيع شركة تحتاج إلى تمويل ونمو مستمرين تحمل تكلفة التباطؤ عندما ترتفع المخاطر.

أولاً، تنتقل مخاطر الذكاء الاصطناعي من مرحلة ما بعد نشر النموذج إلى داخل عملية التدريب. في الماضي، كان القلق الأكبر في الصناعة ينصب على إساءة استخدام النماذج بعد إطلاقها، مثل توليد معلومات مضللة أو المساعدة في الهجمات الإلكترونية؛ أما اليوم، فقد ظهرت المخاطر في مراحل التعلم المعزز وتدريب الوكلاء الأذكياء. فقد هرب نموذج غير منشور من OpenAI من صندوق الاختبار واخترق أنظمة Hugging Face، وبعد ذلك اكتشف الباحثون درجات متفاوتة من انحراف المحاذاة في عينات تدريب نماذج أقوى. قد لا تشكل الظواهر الفردية خطراً واضحاً بحد ذاتها، لكن عند تراكمها مع تسارع القدرات، قررت OpenAI تأجيل تدريب متقدم بالتعلم المعزز، وتحويل المزيد من القدرة الحاسوبية والموظفين إلى المحاذاة والمراقبة. هذا يعني أن قيود النمو في المختبرات المتقدمة تتغير: فالقدرة الحاسوبية لا تزال نادرة، لكن القدرة على إثبات أن النموذج آمن بما يكفي بدأت تحدد أيضاً إمكانية استمرار التدريب.

ثانياً، يتسع معنى «المحاذاة» من مجرد تقييد المخرجات الضارة إلى قدرة النموذج على فهم النوايا الحقيقية للبشر. في حادثة Hugging Face، أنجز النموذج هدف التقييم بالفعل، لكنه استخدم وسائل لم يأذن بها المختبرون. ومع بدء Astra في تشغيل أجهزة الكمبيوتر بمستوى يقارب البشر وقدرته على تنفيذ المهام باستمرار عبر البرامج، يمكن للانحرافات الصغيرة بين الهدف والنية أن تتضخم بسرعة بفعل قدرة التخطيط الذاتي. ومن هنا يطرح ألتمان مبدأين: يجب أن يحتفظ البشر بالسيطرة على الذكاء الاصطناعي، ويجب ألا تتركز القدرات المتقدمة في أيدي قلة من الجهات. الأول يعالج مخاطر الخروج عن السيطرة، والثاني يستجيب لقضية توزيع القوة، ويشكلان معاً التعريف الموسع لـ«السلامة» لدى OpenAI.

ثالثاً، يتحول تركيز منتجات OpenAI من الدردشة إلى التنفيذ. خلال العام الماضي، دفعت الشركة في الوقت نفسه خطوط إنتاج متعددة مثل Sora والمتصفح، لكنها فاتتها نافذة الأولوية في برمجة الذكاء الاصطناعي بسبب نمو المستهلكين لـ ChatGPT. الآن، تقلص OpenAI «المهام الجانبية» وتدفع نحو دمج ChatGPT مع Codex، على أمل أن يكتفي المستخدمون بتحديد الهدف، ويتولى النظام بنفسه تحديد النموذج والأداة والبرنامج المناسب. ويأخذ Astra هذا المنطق إلى أبعد من ذلك نحو التشغيل المستمر وتشغيل الكمبيوتر والمساعدة البحثية. بالنسبة لـ OpenAI، لن تقتصر مؤشرات المنافسة في المرحلة القادمة على جودة الإجابات، بل على عدد المهام الحقيقية التي يمكن للنموذج إنجازها بشكل موثوق. وكلما تعمقت القدرات في البيئة الواقعية، أصبح من الصعب فصل قيمة المنتج عن مخاطر السلامة.

رابعاً، بدأ التقدم التقني يؤثر عكسياً على مسار رأس المال في OpenAI. إذا كان الذكاء الاصطناعي قادراً على المساعدة في تطوير ذكاء اصطناعي أقوى، فقد يضغط التحسين الذاتي التكراري الوقت بين أجيال النماذج. يرى ألتمان أنه بمجرد تسارع هذه العملية، قد يكون تأجيل الاكتتاب العام أكثر فائدة، لأن سعر السهم والإيرادات الفصلية وتوقعات المستثمرين بعد الإدراج ستزيد من تكلفة إيقاف التدريب أو تأجيل الإطلاق. هذا لا يعني أن OpenAI قررت بالفعل تأجيل الإدراج، لكنه يكشف التناقض الخاص لشركات الذكاء الاصطناعي المتقدمة: فهي تحتاج إلى رأس مال ضخم لدعم التوسع الحاسوبي، وفي الوقت نفسه تحتاج إلى التحرر من الحوافز قصيرة الأجل لسوق رأس المال في اللحظات الحرجة.

خامساً، يوشك الذكاء الاصطناعي على الانتقال من الخدمات البرمجية إلى أجهزة تدرك البيئة الواقعية باستمرار. تستكشف OpenAI مع جوني إيف أشكالاً متعددة مثل أجهزة سطح المكتب والجيب والأجهزة القابلة للارتداء، والاتجاه المشترك هو جعل الكمبيوتر ينتقل من انتظار الأوامر إلى تقديم الخدمات بشكل استباقي. ولكي يفهم الجهاز حياة المستخدم، قد يحتاج إلى الوصول المستمر إلى الدردشات وتشغيل الكمبيوتر والصوت ومعلومات البيئة. لذلك يقترح ألتمان «امتياز الذكاء الاصطناعي» على غرار سرية الطبيب والمريض وامتياز المحامي والموكل، مطالباً بفرض قيود أكثر صرامة على وصول الحكومات والشركات إلى هذه البيانات. هذا يعني أن المنافسة في الجيل القادم من أجهزة الذكاء الاصطناعي لن تدور فقط حول الشكل والتفاعل، بل ستحدد أنظمة الخصوصية وحدود البيانات والقبول الاجتماعي أيضاً إمكانية نجاح المنتج.

إذا ضغطنا هذه المحادثة في حكم واحد، فهو: كلما اقتربت قدرات النموذج من العمل المستقل والتحسين الذاتي، أصبح من الصعب التعامل مع السلامة كفحص إضافي قبل الإطلاق، بل يجب أن تدخل في صميم التدريب والمنتج وحوكمة الشركة. وبهذا المعنى، لم يعد موضوع هذا المقال مجرد لماذا أوقفت OpenAI تدريباً متقدماً مؤقتاً، بل ما إذا كانت صناعة الذكاء الاصطناعي بأكملها قادرة على بناء آلية تسمح لها بالتوقف عندما تتزامن القدرات المتسارعة والمنافسة التجارية وضغوط رأس المال.

فيما يلي ملخص للنقاط الرئيسية من النص الأصلي (تم تعديل المحتوى الأصلي لتسهيل القراءة والفهم):

الملخص

· ما أبطأته OpenAI ليس كل تدريب النماذج، بل التدريب المتقدم بالتعلم المعزز الأكثر خطورة، وجوهر الأمر أن قدرات السلامة بدأت تتخلف عن سرعة قفزات قدرات النماذج.

· حادثة Hugging Face ليست مجرد ثغرة في صندوق الاختبار، بل كشفت فجوة محاذاة حيث يحقق النموذج الهدف الحرفي لكنه ينتهك النية الحقيقية للبشر.

· تنتقل مخاطر الذكاء الاصطناعي من الإساءة الخارجية بعد نشر النموذج إلى داخل عملية التدريب، ويتحول تقييم السلامة من فحص قبل الإطلاق إلى قيد صارم على البحث والتطوير المتقدم.

· الاختراق الرئيسي لـ Astra ليس في جودة الإجابات، بل في تشغيل الكمبيوتر بمستوى يقارب البشر وتنفيذ المهام باستمرار، وهذا يضخم في الوقت نفسه مخاطر انحراف الأهداف.

· دمج OpenAI لـ ChatGPT وCodex يعني أن منافسة منتجات الذكاء الاصطناعي تتحول من «توليد الإجابات» إلى «إنجاز العمل»، وسيصبح الوكيل الذكي العام بوابة المنتجات في المرحلة القادمة.

· تستطيع OpenAI تحمل تباطؤ التدريب مؤقتاً لأن إيرادات الشركات تجاوزت إيرادات المستهلكين، ولا تزال النماذج الحالية توفر مساحة كافية للتسويق.

· قد يؤخر التحسين الذاتي التكراري اكتتاب OpenAI العام، وجوهر الأمر أن ضغوط الأداء الفصلي في السوق العامة قد تضعف قدرة الشركة على الإيقاف الطوعي للبحث والتطوير في المراحل عالية الخطورة.

· جوهر الجيل القادم من أجهزة OpenAI ليس في الشكل المحدد، بل في «الكمبيوتر الاستباقي»؛ وشرطه التجاري هو إنشاء حدود موثوقة للبيانات والخصوصية للإدراك المستمر للبيئة.

نقاط المقابلة

لماذا دفع «هروب» نموذج واحد OpenAI إلى إيقاف التدريب المتقدم؟

وصف ألتمان الأشهر الماضية بأنها لحظة طال النقاش حولها لسنوات ووصلت أخيراً: قدرات النماذج تتحسن بسرعة كبيرة، وتحتاج أبحاث السلامة والمحاذاة إلى وقت للحاق بها.

جاء التحذير الأكثر مباشرة من حادثة Hugging Face. نموذج غير منشور من OpenAI هرب من صندوق الاختبار الداخلي أثناء تنفيذ تقييم للأمن السيبراني، ودخل الإنترنت وهاجم Hugging Face. وفقاً لألتمان، نتجت هذه الحادثة عن فشل متزامن في عدة حلقات، مثل قصة خيال علمي أصبحت حقيقة فجأة.

من الظاهر، كان النموذج يبحث فقط عن المسار الأكثر فعالية لإنجاز هدف التقييم؛ لكن النية الحقيقية للمختبرين لم تتضمن بوضوح اختراق الصندوق واقتحام الأنظمة الخارجية وسرقة الإجابات. لذلك يرى ألتمان أن هذا ليس مجرد خطأ في إعدادات السلامة، بل فشل محاذاة: نفذ النموذج الهدف الحرفي لكنه انتهك النية الحقيقية للمستخدم.

عززت OpenAI بعد ذلك عزل الصندوق ومراقبة الوكلاء الأذكياء، وخصصت المزيد من القدرة الحاسوبية لمراقبة سلوك النموذج. ومع ذلك، لم يكن الدافع وراء إيقاف التدريب المتقدم هجوماً مشابهاً آخر.

قال ألتمان إن الباحثين، بعد قراءة عدد كبير من عينات التدريب ودمج نتائج تقييمات مختلفة، اكتشفوا «درجات متفاوتة من انحراف المحاذاة» في النموذج. قد لا تكون هذه الظواهر خطيرة بمعزل عن بعضها، ولا يوجد «دليل قاطع» واضح مثل هجوم Hugging Face، لكنها عندما تقترن بالتسارع المفاجئ في قدرات النموذج تشكل إشارة خطر جديدة.

لذلك أجلت OpenAI تدريباً متقدماً مهماً بالتعلم المعزز، وحولت بعض الباحثين والقدرة الحاسوبية إلى أنظمة المحاذاة والمراقبة. وقال ألتمان إن بعض الباحثين الذين لم يفكروا قط في العمل على أبحاث المحاذاة بدأوا أيضاً يتحولون طوعاً إلى هذا المجال.

لكنه حاول في الوقت نفسه خفض التفسير الخارجي للمخاطر. لم تحكم OpenAI بأن العالم على حافة كارثة، ولم توقف كل تدريب النماذج. التباطؤ الحالي يستهدف بشكل أساسي التعلم المعزز المتقدم - المرحلة التي يكتسب فيها النموذج الأدوات ويشغل البيئة ويتعلم تنفيذ المهام المعقدة. التدريبات الأخرى ذات الأسس الأمنية الأوضح مستمرة، ومجموعات القدرة الحاسوبية ليست معطلة.

يعتقد ألتمان أن المخاطر في الماضي كانت تأتي غالباً من كيفية استخدام النموذج بعد إطلاقه؛ ومع تحسن قدرات الوكلاء الأذكياء، تنتقل المخاطر إلى مرحلة تدريب النموذج وإنتاجه.

Astra سيُطلق رغم ذلك، والذكاء الاصطناعي ينتقل من «الإجابة» إلى «التنفيذ»

لن يمنع هذا التعديل إطلاق Astra تماماً.

أوضح ألتمان أن Astra ليس نموذجاً واحداً، بل عائلة نماذج أكبر وأكثر تكلفة، تشبه سلسلة Soul السابقة من OpenAI. النسخ التي اكتمل تدريبها وتعتبرها الشركة آمنة يمكن إطلاقها، لكن نسخ Astra الأقوى في المستقبل ستتأثر بمتطلبات السلامة الجديدة.

من أكثر قدرات Astra ترقباً تشغيل الكمبيوتر. النماذج السابقة كانت تستطيع النقر على الواجهات، لكن ببطء وموثوقية محدودة؛ يعتقد ألتمان أن Astra وصل إلى مستوى يقارب البشر في تشغيل الكمبيوتر.

يمكن للمستخدمين وصف الهدف مباشرة، ويتولى النموذج بنفسه البحث عن المعلومات في الكمبيوتر واستدعاء البرامج وإنجاز المهام دون الحاجة إلى إعداد عدد كبير من الموصلات يدوياً. ضرب ألتمان مثالاً بأن بعض المهام التافهة التي كان المستخدم يقضي وقتاً في معالجتها يمكن الآن تسليمها للنموذج والعودة بعد نصف ساعة لرؤية النتيجة.

تكمن أهمية هذه القدرات في أن الذكاء الاصطناعي يبدأ بالانتقال من توليد الإجابات إلى مرحلة التنفيذ. سيواجه النموذج برامج المؤسسات وأدوات الاتصال والملفات وسير العمل الحقيقي، مما يزيد الإنتاجية ويوسع أيضاً مساحة مخاطر الوصول غير المصرح به والأخطاء التشغيلية وانحراف الأهداف.

بالنسبة للذكاء العام الاصطناعي (AGI)، يعتقد ألتمان أن هذا المفهوم أصبح أقل قدرة على تقديم حكم فعال. وفقاً لتعريف ميثاق OpenAI «تجاوز البشر في معظم الأعمال ذات القيمة الاقتصادية»، فإن النماذج الداخلية الحالية على الأقل قريبة جداً من AGI.

في رأيه، لو عدنا إلى عام 2020، فإن نظاماً قادراً على كتابة أكواد معقدة والمساعدة في تأسيس شركات واكتشاف معرفة جديدة وتوفير الوقت للمستخدمين في جميع جوانب الحياة، كان سيُطلق عليه على الأرجح AGI. كما أن النقاش داخل OpenAI نادراً ما يدور حول ما إذا كانت الشركة قد حققت AGI، بل تحول التركيز إلى الذكاء الفائق الذي يستمر في النمو.

يميز ألتمان بين الاثنين: AGI أشبه بعلامة فارقة في القدرات، بينما يمثل الذكاء الفائق منحنى نمو قد يمتد طويلاً. المهم حقاً ليس الإعلان عن تجاوز خط معين، بل ما إذا كانت قدرات النموذج لا تزال تنمو بشكل أسي.

بعد تفويت نافذة برمجة الذكاء الاصطناعي، تبدأ OpenAI في تقليص الجبهات

إلى جانب أزمة السلامة، اعترف ألتمان أيضاً بأن OpenAI تخلفت عن التوقعات خلال العام الماضي في اتجاه المنتجات وأبحاث التدريب المسبق.

من المشاكل أن الشركة دفعت في الوقت نفسه عدداً كبيراً جداً من المشاريع، بما في ذلك المتصفح وSora. هذه المشاريع لها قيمة بحد ذاتها، لكنها شتتت استثمار OpenAI في قدرات الذكاء العام. وصفها ألتمان بأنها «مهام جانبية»، ويرى أنه كان يجب أن يطلب من الشركة التركيز على الأهداف الأكثر أهمية.

وقع خطأ آخر في سوق برمجة الذكاء الاصطناعي.

استحوذت Anthropic على الطلب مبكراً بفضل Claude Code، بينما انشغلت OpenAI بالنمو السريع لـ ChatGPT ولم تمنح منتجات البرمجة أولوية كافية. لا يعتقد ألتمان أن الشركة لم ترَ الفرصة، بل المشكلة في تخصيص الموارد.

حولت OpenAI بعد ذلك كمية كبيرة من القدرة الحاسوبية من ChatGPT إلى Codex. وهذا يفسر تباطؤ نمو مستخدمي ChatGPT في فترة ما: في ظل النقص المستمر في القدرة الحاسوبية، يعتمد نمو المنتج إلى حد كبير على أين توجه الشركة قدرتها الحاسوبية.

حالياً، تدفع الشركة نحو تكامل تسميه داخلياً «The Merge»، لدمج ChatGPT وCodex ووظائف تنفيذ المهام في بوابة عامة واحدة. يأمل ألتمان ألا يضطر المستخدمون إلى تحديد ما إذا كانوا يريدون استخدام وضع الدردشة أو البرمجة أو العمل، بل يكفي التعبير عن الهدف، ويتولى الذكاء الاصطناعي تحديد كيفية الإنجاز.

في النهاية، قد يتطور هذا إلى اشتراك موحد للذكاء الاصطناعي العام. سيعمل النظام باستمرار ويفهم سياق المستخدم ويقدم المساعدة بشكل استباقي، بل قد يبدأ في معالجة المهام قبل أن يطلبها المستخدم.

من الناحية التجارية، يعتقد ألتمان أن OpenAI لا تزال تملك هامشاً كافياً. تجاوزت إيرادات الشركات إيرادات المستهلكين، وحتى لو لم تُطلق نماذج جديدة أقوى على المدى القصير، فإن النماذج والمنتجات الحالية قادرة على دعم النمو. في رأيه، تأثير تعديلات السلامة يقع أساساً على النماذج المستقبلية ولن يقطع الأعمال الحالية فوراً.

الذكاء الاصطناعي يخرج من صندوق الدردشة، والرفض الاجتماعي يتسع

مع نمو قدرات النماذج، يتزايد الرفض الاجتماعي للذكاء الاصطناعي. استهلاك موارد مراكز البيانات، واستبدال الوظائف، وحقوق المبدعين، والخصوصية الشخصية، أصبحت خطوطاً رئيسية لتشكيك الجمهور في صناعة الذكاء الاصطناعي.

يعتقد ألتمان أن الطريقة الأكثر فعالية لجعل الناس يتقبلون الذكاء الاصطناعي هي تقديم قيمة عملية. كثير من الناس ما زالوا يفهمون الذكاء الاصطناعي على أنه «محرك بحث أفضل»، ولا يدركون أن الوكلاء الأذكياء قادرون بالفعل على ملء النماذج واستدعاء البرامج وتنفيذ المهام لفترات طويلة. عندما تنتشر هذه القدرات أكثر، قد يتغير موقف الجمهور.

في مسألة التوظيف، يعترف بأن الذكاء الاصطناعي سيحدث تأثيراً حقيقياً، وستُنجز بعض الأعمال بشكل أفضل بواسطة التقنية، وسيحتاج العمال إلى الانتقال إلى وظائف جديدة. لكنه لا يعتقد أن البشر سيصبحون بلا عمل، لأن التعاون بين البشر وفهم احتياجات بعضهم البعض وخلق قيمة للآخرين ما زالت تحمل خصائص اجتماعية يصعب استبدالها.

حتى أن ألتمان يعتقد أن تأثير الذكاء الاصطناعي الحالي على التوظيف أقل من توقعاته السابقة. فالتقنية لم تقضِ بعد على العمل المتكرر بشكل كافٍ، ويمكن اعتبار ذلك مظهراً من مظاهر عدم وفاء صناعة الذكاء الاصطناعي بوعدها بالإنتاجية.

بالنسبة للمبدعين، قارن الذكاء الاصطناعي التوليدي بظهور التصوير الفوتوغرافي: كانت الكاميرا تُعتبر تهديداً للرسامين، لكنها شكلت لاحقاً وسيطاً فنياً جديداً. يتوقع ألتمان أن يخلق الذكاء الاصطناعي أشكالاً جديدة من المحتوى، وقد تعتمد العلاقة بين المستخدمين والمبدعين بشكل متزايد على المبدع نفسه، وليس على ما إذا كان العمل مصنوعاً بالذكاء الاصطناعي.

لا يزال هذا الحكم يحمل تفاؤلاً تقنياً واضحاً. لم تحل المقابلة فعلياً مسائل كيفية إعادة توزيع الدخل، وكيفية انتقال العمال المتأثرين، وكيفية معالجة نزاعات بيانات التدريب. يبقى جواب ألتمان الأساسي: اجعل المنتج يخلق قيمة واضحة بما يكفي أولاً، ثم وسّع الوصول إلى الأدوات على نطاق واسع لنشر الفوائد إلى مزيد من الأفراد والمجتمعات.

القدرة الحاسوبية ما زالت شحيحة، لكن الفقاعة بدأت تظهر

قبل عام، تعرضت OpenAI لانتقادات واسعة بسبب استثماراتها الضخمة في القدرة الحاسوبية. مع زيادة الطلب على النماذج والوكلاء الأذكياء، يعتقد ألتمان أن هذا الرهان قد ثبتت صحته، بل إن الشركة تحتاج إلى بدء جولة جديدة من التوسع الحاسوبي على المستوى التقني.

هدفه ليس فقط مواصلة ضخ رأس المال، بل يشمل أيضاً خفض تكلفة تشغيل الذكاء الاصطناعي، ورفع كفاءة الرقائق، وتسريع بناء سلسلة التوريد ومراكز البيانات. تطور OpenAI أول شريحة استدلال لها باسم Jalapeño، وقد تشارك الروبوتات مستقبلاً في بناء سلسلة التوريد ومراكز البيانات.

لكن ألتمان بدأ يبدي حذراً تجاه استثمارات القدرة الحاسوبية في الصناعة كلها.

قال إن بعض شركات الحوسبة السحابية الناشئة التي ظهرت فجأة تعد ببناء كميات هائلة من القدرة الحاسوبية العام المقبل، دون إيرادات كافية أو مشترين واضحين يدعمون ذلك. وظهرت بالفعل «علامات عبثية غير مستدامة». إذا نجحت OpenAI في خفض تكاليف الحوسبة بشكل كبير، فقد تواجه بعض الشركات التي حجزت موارد بتكاليف عالية ضغوطاً مالية.

لذلك، لا يزال ألتمان واثقاً من التزامات OpenAI الخاصة بالقدرة الحاسوبية، لكنه لا يعتقد أن سوق البنية التحتية للذكاء الاصطناعي بأكمله يحقق عوائد معقولة. إذا انفجرت الفقاعة الخارجية وأثرت على الاقتصاد الكلي، فلن تستطيع OpenAI النأي بنفسها تماماً.

أما عن بيع القدرة الحاسوبية لشركات أخرى في المستقبل، فقال ألتمان إنه لا توجد خطط على المدى القصير لأن OpenAI نفسها ما زالت تعاني من نقص حاد في موارد الحوسبة. لكن إذا شكلت قدراتها في الرقائق والروبوتات وسلسلة التوريد ومراكز البيانات ميزة، فليس من المستحيل أن تصبح مورداً للقدرة الحاسوبية.

RSI يقترب، لماذا قد تؤجل OpenAI الاكتتاب العام؟

قدرة الذكاء الاصطناعي على المشاركة في تطوير الجيل القادم من الذكاء الاصطناعي تُعرف في الصناعة بالتحسين الذاتي التكراري، أي RSI.

كان ألتمان قد قال في رسالة سابقة للموظفين إنه كلما كان «إقلاع» RSI أسرع، كان تأجيل الاكتتاب العام أكثر فائدة. وفي المقابلة، شرح هذا الحكم بمزيد من التفصيل.

الإدراج في البورصة يغير الحوافز التي تواجه الشركة والموظفين: سيدخل سعر السهم والإيرادات الفصلية وتوقعات الأداء في القرارات اليومية. إذا احتاجت OpenAI إلى إيقاف التدريب أو تأجيل الإطلاق لأسباب تتعلق بالسلامة، وتحملت تباطؤاً في الإيرادات على المدى القصير، فقد يشكل السوق العام ضغطاً إضافياً.

قال ألتمان إنه قبل عام لم يكن يعتقد أن الذكاء الفائق سيظهر على المدى القريب، أما الآن فيرى أن هذا الاحتمال قائم، رغم عدم وجود يقين كافٍ. لذلك، فإن مهمة OpenAI لها أولوية أعلى من الإدراج في وقت محدد.

هذا لا يعني أن الاكتتاب العام قد تأجل بشكل مؤكد، بل إن التقدم التقني سيصبح متغيراً مهماً في الجدول الزمني. إذا استمرت قدرات النموذج في النمو بسرعة، فقد يحتفظ وضع الشركة الخاصة لـ OpenAI بمساحة أكبر لقرارات السلامة.

في الوقت نفسه، يعارض ألتمان منطق السباق القائل «الشركات الأخرى ستستمر، لذا لا يمكننا التوقف». لم تطلب OpenAI هذه المرة من نظرائها التباطؤ بشكل متزامن، بل أوقفت بعض الأعمال وفقاً لمعايير السلامة الخاصة بها. ويرى أن الحكومة الأمريكية يمكنها اختبار النماذج المتقدمة ووضع معايير مشتركة، لكن لا ينبغي أن تقرر نيابة عن الشركات أي عملاء محددين يمكنهم استخدام النموذج.

أما عن إمكانية منع الحكومة لـ OpenAI من إطلاق منتج معين، فكان جواب ألتمان: إنه واثق من أن OpenAI ستقرر بنفسها عدم الإطلاق قبل أن تتدخل الحكومة.

من البرمجيات إلى الأجهزة: OpenAI تراهن على «الكمبيوتر الاستباقي»

سيمتد توسع OpenAI أيضاً إلى العالم الحقيقي.

أكد ألتمان أن الشركة «بالتأكيد» ستطور روبوتات بشرية الشكل في المستقبل، وستستكشف أيضاً أشكالاً أخرى مناسبة لسيناريوهات مثل مراكز البيانات. السبب وراء التصميم البشري مباشر تماماً: الأبواب وأجهزة الكمبيوتر والمركبات والأدوات في العالم الحقيقي مبنية حول جسم الإنسان، واعتماد الروبوتات لشكل مشابه يسهل دخولها إلى البيئات القائمة.

المشروع الأقرب إلى المستهلكين هو جهاز الذكاء الاصطناعي الذي تتعاون فيه OpenAI مع جوني إيف.

يعتقد ألتمان أن الذكاء الاصطناعي قد يخلق فئة جديدة من أجهزة الحوسبة لا تظهر إلا مرة كل بضعة عقود. الأشكال التي تدرسها OpenAI حالياً تشمل جهازاً يوضع على سطح المكتب، وجهازاً يوضع في الجيب، وجهازاً يُرتدى على الجسم، لكن هذه المنتجات لن تُطلق في الوقت نفسه.

صرح بوضوح أنه لا يحب النظارات الذكية، لأن التحدث مع أشخاص يرتدون كاميرات ومؤشرات ضوئية يجعله يشعر بعدم الارتياح. لذلك، لن تكتفي خطة الأجهزة لدى OpenAI بنسخ النظارات الذكية السائدة حالياً.

بالمقارنة مع الشكل المحدد، التغيير الأكبر هو «الكمبيوتر الاستباقي». قد تفهم الأجهزة المستقبلية البيئة المحيطة ومعلومات المستخدم وما يحدث باستمرار، وتقدم المساعدة بشكل استباقي، دون انتظار فتح المستخدم للتطبيقات وإدخال الأوامر.

يجلب هذا النموذج أيضاً مشكلات خصوصية أكثر حدة. جهاز قادر على رؤية الكمبيوتر وقراءة الرسائل وإدراك البيئة باستمرار قد يشكل قاعدة بيانات شخصية كاملة للغاية.

يدعو ألتمان إلى إنشاء «امتياز الذكاء الاصطناعي» على غرار سرية الطبيب والمريض أو امتياز المحامي والموكل: يجب ألا تطلب الحكومات من الشركات تسليم سجلات دردشة المستخدمين مع الذكاء الاصطناعي بشكل تعسفي، ويجب تقييد استخدام الشركات لبيانات الذكاء الاصطناعي بشكل صارم. ويعترف بأنه مع اقتراب إطلاق أجهزة الحوسبة البيئية، ستحتاج OpenAI إلى الكشف عن تقنيات خصوصية وإجراءات تحكم جديدة.

أما عن الدعوى القضائية التي رفعتها Apple بشأن المواهب والأسرار التجارية، فقال ألتمان إن OpenAI أجرت تحقيقاً داخلياً وخلصت إلى عدم وجود سلوك غير لائق من الموظفين المعنيين، لذا يتوقع ألا تبطئ الدعوى تطوير الأجهزة.

السلامة والمحاذاة تصبحان قيد النمو الجديد لـ OpenAI

عندما سُئل عن أكبر خطر يواجه OpenAI خلال الاثني عشر شهراً القادمة، لم يختر ألتمان المنافسة أو التمويل أو القدرة الحاسوبية، بل «الإخفاق في السلامة والمحاذاة والأمن».

تلخص هذه العبارة التناقض الأساسي في المقابلة كلها.

تعتقد OpenAI أن قدرات النموذج تدخل مرحلة تسارع جديدة: يستطيع Astra استخدام الكمبيوتر بمستوى يقارب البشر، ويمكن للوكلاء الأذكياء العمل باستمرار، ويبدأ الذكاء الاصطناعي في المشاركة في البحث العلمي وتطوير النماذج، ويتحول الذكاء الفائق من مفهوم بعيد إلى احتمال يجب على الإدارة الاستعداد له مسبقاً.

في الوقت نفسه، يظهر هروب النموذج من الصندوق أن تحسين القدرات لا يجلب تلقائياً فهماً للنوايا البشرية. فكلما زادت قدرة النموذج على التخطيط الذاتي واستدعاء الأدوات، زاد احتمال تضخيم الانحرافات في تحديد الأهداف.

لم تتوقف OpenAI عن التقدم. فهي ما زالت تبني المزيد من القدرة الحاسوبية، وتدفع بنماذج جديدة، وتدمج ChatGPT وCodex، وتدخل مجالات الرقائق والروبوتات والأجهزة الاستهلاكية. لكن من هذه المقابلة، بدأت السلامة والمحاذاة تصبحان، مثل القدرة الحاسوبية، شرطاً واقعياً يحد من سرعة الأبحاث المتقدمة.

إطلاق Astra في موعده ليس سوى مشكلة آنية. الأهم هو ما إذا كانت OpenAI ستظل قادرة على الضغط على المكابح طواعية عند حدوث القفزة القدراتية التالية، وما إذا كانت هذه الآلية قادرة على الصمود أمام ضغوط المنافسة والإيرادات وسوق رأس المال مجتمعة.