عمالقة الذكاء الاصطناعي الذين تسابقوا بلا هوادة بدأوا أخيرًا يخشون الذكاء الاصطناعي

العنوان الأصلي: «عمالقة الذكاء الاصطناعي الذين تسابقوا بلا هوادة بدأوا أخيرًا يخشون الذكاء الاصطناعي»
الكاتب الأصلي: دونغ تشا بيتينغ

قد يقتلنا الذكاء الاصطناعي جميعًا خلال عقد من الزمن.

في 8 سبتمبر، استخدم شاب يبلغ من العمر 27 عامًا هذه الجملة ليعلن مغادرته لشركة Anthropic، التي جعلت من «سلامة الذكاء الاصطناعي» جزءًا أساسيًا من سرديتها منذ اليوم الأول لتأسيسها.

اسمه جاكوب كوكسون، عمل سابقًا في OpenAI ثم في Anthropic. لو بقي شهرين إضافيين، لكان حصل على حزمة أسهم ضخمة. لكنه رحل رغم ذلك.

اتهم جاكوب في بيان استقالته مختبرات الذكاء الاصطناعي الرائدة بأنها تخوض سباقًا «غير مسؤول». فمن وجهة نظره، هذه الشركات تتسابق لصنع نماذج أقوى باستمرار، والرهان ليس على فوز شركة أو خسارتها، بل على حياة الجميع.

انتشر المنشور بسرعة بعد ذلك. وحتى الآن، تجاوزت مشاهداته 170 مليون مشاهدة.

في اليوم التالي لنشر جاكوب بيان استقالته، كشف موظف سابق آخر في Anthropic علنًا عن سبب مغادرته المبكرة، وهو أيضًا الخوف من خروج الذكاء الاصطناعي عن السيطرة في نهاية المطاف.

«We may not survive this.»

قد لا ننجو من هذا.

حذر من أن الشركات تتسابق لصنع آلات «أذكى بكثير من أي إنسان»، دون أن يضمن أحد أن يظل هذا السباق تحت السيطرة البشرية بعد نقطة معينة.

وبعد ذلك مباشرة، قال مسؤول أمني كبير في Anthropic في مقابلة إعلامية إنه يعتقد أن احتمال قتل الذكاء الاصطناعي لجميع البشر خلال السنوات العشر القادمة يتجاوز 10%.

احتمال الموت في لعبة الروليت الروسية يبلغ حوالي 16.7%.

يجب إبطاء السرعة

بعد أربعة أيام، في 12 سبتمبر، نشر الرئيس التنفيذي لشركة Anthropic داريو أمودي مقالًا طويلًا، عنوانه يوضح موقفه بوضوح: «We Must Pace the Frontier» (يجب أن نضبط وتيرة التقدم).

حدد ثلاثة أمور تقلقه أكثر من غيرها: فقدان البشرية السيطرة على أنظمة الذكاء الاصطناعي؛ استخدام الذكاء الاصطناعي في هجمات إلكترونية واسعة النطاق وإرهاب بيولوجي؛ والتقدم التكنولوجي السريع جدًا الذي يسبب صدمات خطيرة للتوظيف والاقتصاد.

هذه المرة، لم يكتفِ داريو بالتعبير عن «القلق»، بل قدم خطة لإبطاء السرعة.

أولًا، يجب على شركات الذكاء الاصطناعي المتقدمة أن تمنح هيئات تقييم مستقلة صلاحيات وصول شبه دائمة بمستوى «موظف». بحيث يستطيع المقيمون التحقق باستمرار من التزام المختبرات بمعايير السلامة، ومن توافق عمليات التدريب مع الاتفاقات، وإجراء تحقيقات مستقلة ورفع التقارير بعد وقوع الحوادث.

ثانيًا، يجب على المختبرات المتقدمة أن تضع معايير سلامة مشتركة بمشاركة الحكومات. ومن يتجاوز الخطوط الحمراء يجب أن يبطئ أو حتى يتوقف عن التقدم.

أخيرًا، يجب أن تتجاوز القواعد حدود الولايات المتحدة. يأمل داريو أن تشكل الولايات المتحدة أولًا إطارًا موحدًا مع الدول الديمقراطية الأخرى، ثم التنسيق مع الدول الاستبدادية، بحيث تخضع جميع القوى الكبرى في مجال الذكاء الاصطناعي لنفس القيود في النهاية.

كتب في مقاله:

«The measures I propose to advance the frontier at a safe pace will not be easy. But I believe we owe it to humanity to try.»

«الإجراءات التي أقترحها لدفع حدود الذكاء الاصطناعي بوتيرة آمنة لن تكون سهلة. لكنني أعتقد أننا مدينون للبشرية بأن نحاول.»

سبب حديث داريو بهذه الحدة فجأة في هذا التوقيت مرتبط بعدة أحداث وقعت مؤخرًا.

فقد سبق أن خرج وكيل ذكاء اصطناعي تابع لـ OpenAI من بيئة الاختبار واخترق Hugging Face؛ واكتشفت Anthropic نفسها أن عددًا من العلماء يحاولون استخدام Claude في أعمال قد تنطوي على إساءة استخدام بيولوجي. حتى أن داريو يرى أنه بوتيرة التطور الحالية، قد تسيطر وكلاء الذكاء الاصطناعي على الإنترنت خلال ستة أشهر.

لذلك جاءت الردود سريعة بعد نشر المقال. فقد أعلن سام ألتمان وإيلون ماسك وديميس هاسابيس علنًا دعمهم لإبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم.

ثم نشر سام ألتمان منشورًا منفصلًا تحدث فيه عن أكثر أمرين يقلقانه.

الأول هو احتمال فقدان البشرية السيطرة على الذكاء الاصطناعي في النهاية، وقال إن هذا غير مقبول، وإنه «يقف دون تحفظ إلى جانب البشرية».

الخطر الثاني يأتي من البشر. فإذا وقع ذكاء اصطناعي فائق القوة في يد شخص واحد أو شركة واحدة أو حتى دولة واحدة، واستُخدم لفرض رؤية معينة للعالم على الجميع، فقد تكون النتيجة «ديستوبية للغاية».

لذلك يرى سام أن المختبرات لم يعد بإمكانها أن تقرر كلٌّ على حدة ما تعنيه السلامة. فعلى الأقل، يجب على الشركات الأقرب إلى الحدود المتقدمة أن تجلس أولًا وتضع معايير مشتركة. ويجب أن تلتزم بها.

في 14 سبتمبر، كشفت The Information أنه قبل هذه التصريحات العلنية، كانت Anthropic وOpenAI وGoogle قد بدأت بالفعل منذ يوليو الماضي مناقشات خاصة حول تأسيس هيئة معايير مشتركة لصناعة الذكاء الاصطناعي. وبعد شهرين من النقاش، لم يتوصلوا بعد إلى اتفاق.

الخلاف ليس حول ما إذا كان يجب التنظيم، بل حول من سيتولى التنظيم، وإلى أي مدى يمكن أن يصل.

داريو أمودي هو الأكثر حماسًا للدفع قدمًا. فهو يريد مشاركة حكومية عميقة، بحيث لا يقتصر دور المنظمين على الاختبار والتنبيه، بل يكون لديهم أيضًا سلطة منع إطلاق النموذج إذا حُكم عليه بأنه غير آمن.

أما الخطة التي اقترحها ديميس هاسابيس فتشبه «نسخة ذكاء اصطناعي من FINRA». وFINRA هي هيئة تنظيم ذاتي لصناعة التمويل الأمريكية، تمولها الصناعة وتعمل تحت تفويض وإشراف هيئة الأوراق المالية والبورصات الأمريكية SEC.

وفي صناعة الذكاء الاصطناعي، يجب اختبار النماذج المتقدمة من قبل هيئة مستقلة قبل إطلاقها. ويمكن أن تكون المشاركة طوعية في البداية، ثم تتحول تدريجيًا إلى شرط لدخول السوق الأمريكية بعد نضوج النظام.

موقف سام ألتمان أكثر عملية. فإذا لم تستطع الحكومة بناء هذه الهيئة في الوقت الحالي، يمكن للمختبرات الرائدة أن تبدأ بنفسها أولًا.

وهنا تكمن المشكلة بالضبط. فمعايير الصناعة لا تحدد فقط ما هو آمن، بل تحدد أيضًا من يحق له البقاء على طاولة اللعب. فالشركات التي تشارك أولًا في وضع القواعد يمكنها أن تُدرج فرق السلامة وعمليات الاختبار وأطر الحوكمة التي تمتلكها بالفعل ضمن «أفضل الممارسات». أما الوافدون الجدد إلى هذا السوق، فسيتعين عليهم تحمل تكاليف امتثال تحددها الشركات الرائدة.

لذلك فالسلامة حقيقية بالطبع، والحاجز حقيقي أيضًا.

في يناير الماضي، ذكرت Semafor أن Anthropic رفضت تقديم أحدث نماذجها للاختبار إلى مؤسسة أبحاث سلامة ذكاء اصطناعي بريطانية رائدة. وكشف هذا الحادث عن مشكلة أكثر إزعاجًا: الجميع يوافق على ضرورة فحص النماذج، لكن من سيفحصها وبأي معايير؟ المختبرات ليست مستعدة للتنازل عن حق القرار بسهولة.

والآن، بينما تناقش الشركات الثلاث تأسيس هيئة معايير جديدة، فإن ما تتنافس عليه هو هذا الجزء من السلطة تحديدًا.

عكس الاتجاه

بينما بدأ وادي السيليكون يتحدث عن إبطاء السرعة، تأمل واشنطن ووول ستريت ألا يتوقف الذكاء الاصطناعي.

في 13 سبتمبر، رد ترامب علنًا على هذه الجولة من الجدل حول سلامة الذكاء الاصطناعي.

قال شيئين. الأول: «whoever wins AI, wins»، من يفز بالذكاء الاصطناعي يفز. الولايات المتحدة تتقدم حاليًا على الصين، ويجب الحفاظ على هذا التفوق. والثاني: وصف التحذيرات الأخيرة حول مخاطر الذكاء الاصطناعي بأنها «قوى سلبية للغاية»، معتبرًا أن بعض الناس يضخمون باستمرار كوارث قد لا تحدث أبدًا.

الأسباب التي قدمها ترامب لا علاقة لها تقريبًا بالسلامة التقنية. فهو ما زال ينظر إلى الذكاء الاصطناعي من منظور المنافسة بين الدول، فطالما أن الصين تواصل التقدم، فلن يكون أمام الولايات المتحدة مجال للضغط على المكابح طواعية.

والمشكلة أننا الآن في سبتمبر 2026، أي قبل أقل من شهرين من انتخابات التجديد النصفي الأمريكية.

في مارس الماضي، نشرت صحيفة The Guardian مقالًا أشار إلى أن الذكاء الاصطناعي أصبح قضية مهمة في انتخابات التجديد النصفي هذه. وكان أحد كاتبي المقال هو عالم التشفير بروس شناير، الذي ظل طوال الثلاثين عامًا الماضية تقريبًا في الخطوط الأمامية للجدل حول التكنولوجيا والسلامة.

لكن ترامب لا يملك خيارًا مريحًا أيضًا.

فوفقًا لتقرير نشرته صحيفة Times في مايو الماضي، أصبح عداء ناخبي MAGA تجاه الذكاء الاصطناعي واضحًا بشكل متزايد. فهم يخشون أن يسلب الذكاء الاصطناعي وظائفهم ويخفض أجورهم، كما أنهم غير راضين عن استهلاك مراكز البيانات للمياه والكهرباء المحلية. والاستمرار في المراهنة على الذكاء الاصطناعي يعني أن ترامب سيواجه عاجلًا أم آجلًا الاستياء المتراكم داخل قاعدته الانتخابية.

لكنه في الوقت الحالي على الأقل اختار الجانب الآخر. فمقارنة بالصراعات المحتملة على الوظائف والموارد في المستقبل، فإن مخاطر المنافسة مع الصين وهبوط الأسهم الأمريكية أقرب إلى انتخابات التجديد النصفي.

وتواجه وول ستريت أيضًا مشكلة ليست بالهينة.

فخلال السنوات الماضية، تجرأ السوق على منح شركات الذكاء الاصطناعي هذه تقييمات فلكية، لأنه كان يراهن في الواقع على منحنى صاعد باستمرار: النماذج تتحسن، والمستخدمون والإيرادات ينمون، وبالتالي تستمر مراكز البيانات في البناء، وشراء وحدات معالجة الرسوميات GPU، وتراكم النفقات الرأسمالية.

الآن، بدأ الرؤساء التنفيذيون الذين يقفون في مقدمة هذا المنحنى يقولون بأنفسهم إن الذكاء الاصطناعي المتقدم قد يحتاج إلى إبطاء.

وجاء رد فعل السوق أسرع من الجدل. فبعد أن دعا مسؤولو شركات مثل Anthropic وOpenAI وSpaceX علنًا إلى إبطاء تطوير الذكاء الاصطناعي، انخفضت أسهم الشركات المدرجة المرتبطة بالذكاء الاصطناعي بنسبة 13% في وقت ما.

التباطؤ لم يحدث فعليًا بعد، لكن وول ستريت بدأت بالفعل في إعادة التسعير.

فإذا لم تعد قدرات النماذج قادرة على الصعود بالسرعة السابقة، فسيتعين إعادة حساب كل الأرقام اللاحقة: كم عدد مراكز البيانات التي يجب بناؤها، وكم عدد وحدات GPU التي يجب شراؤها، وكم يجب أن تضخ شركات الحوسبة السحابية من نفقات رأسمالية سنويًا، وكم يمكن لمختبرات الذكاء الاصطناعي أن تجمع من تمويل، وكم يجب أن تبلغ قيمة الاكتتابات العامة الأولية.

لذلك فإن ما تخشاه وول ستريت حقًا لم يكن أبدًا مجرد إطلاق عدد أقل من النماذج. بل إنها تخشى أن تتحول سرعة النمو التي دعمت السوق الصاعدة للذكاء الاصطناعي خلال السنوات الماضية إلى مشكلة تحتاج إلى تنظيم.

والأكثر دقة أن الجمهور الأمريكي يقف بعيدًا عن واشنطن ووول ستريت معًا.

فقد أظهر استطلاع أجراه مركز أننبرغ للسياسة العامة بجامعة بنسلفانيا أن الأمريكيين متشائمون عمومًا من تأثير الذكاء الاصطناعي، وأن الأغلبية تريد من الحكومة تشديد الرقابة. وادي السيليكون تخشى فقدان السيطرة، وواشنطن تخشى الخسارة أمام الصين، ووول ستريت تخشى انهيار التقييمات.

وفي خضم هذه العاصفة، اختارت الشركتان الأكثر متابعة في مجال الذكاء الاصطناعي اتجاهين مختلفين.

قررت OpenAI تأجيل طرحها العام الأولي. كما لمح سام ألتمان إلى أنه إذا تطلبت قضايا السلامة مزيدًا من الوقت، فيمكن للشركة تأجيل الإدراج.

أما Anthropic فما زالت تندفع إلى الأمام. فقد اختارت الشركة بورصة ناسداك، وتستهدف تقييمًا يصل إلى 2 تريليون دولار، وتدرس إنفيديا الاكتتاب بمبلغ 10 مليارات دولار لتصبح مستثمرًا أساسيًا. وذكرت NDTV Profit أن Anthropic قد تبدأ حملة الترويج للاكتتاب العام في منتصف أكتوبر على أقرب تقدير.

داريو أمودي يدعو الصناعة بأكملها إلى إبطاء الخطى، بينما تتسارع شركته هي نحو الأسواق العامة.

لكن أسواق المال قد لا ترى في ذلك تناقضًا.

فإذا كان الذكاء الاصطناعي المتقدم خطيرًا حقًا كما يقول داريو، لدرجة تتطلب تدخل الحكومة الأمريكية، ووضع معايير مشتركة بين المختبرات، بل وتنسيقًا بين عدة دول كبرى، فإن الشركات القادرة على المشاركة في وضع هذه القواعد ستصبح أكثر أهمية فقط.

فكلما اشتدت الرقابة، ارتفعت تكلفة صنع النماذج المتقدمة؛ وكلما زاد تعقيد اختبارات السلامة، صعب على الوافدين الجدد اللحاق بالركب؛ وإذا ظهر مستقبلًا نظام حوكمة عالمي للذكاء الاصطناعي، فمن المرجح أن تجلس Anthropic على الطاولة التي توضع فيها القواعد.

لذلك فإن «التباطؤ» لا يعني بالضرورة كسب أموال أقل.

بل قد يعني أن هذه الصناعة أصبحت أخيرًا مهمة إلى درجة لا يمكن معها السماح للجميع بالدخول متى شاؤوا. وبالنسبة للشركات الواقفة بالفعل في المقدمة، فإن العتبة الأعلى هي في حد ذاتها جزء من التقييم.

أول قطعة دومينو تسقط

لنعد مرة أخرى إلى الوراء لنرى كيف اندلع هذا النقاش الحاد حول سلامة الذكاء الاصطناعي، وكيف وصل منشور جاكوب إلى 170 مليون مشاهدة.

بعد استقالته، أجرى مقابلة مع برنامج أندرسون كوبر على CNN، وروى بنفسه كيف نُشر ذلك المنشور.

كتب جاكوب مسودة أولى، ثم راجعها مع أصدقائه، وناقش مع عدة أشخاص أفضل طريقة للتعبير. وقبل النشر الرسمي، طلب من أصدقائه المساعدة في إعادة النشر. وكانت فكرته حينها:

«Let's try to make this a bit viral.»

لنحاول أن نجعله ينتشر على أوسع نطاق ممكن.

وجاءت النتيجة أبعد بكثير من توقعاته. اعترف جاكوب لاحقًا أنه لم يرَ من قبل منشورًا يناقش سلامة الذكاء الاصطناعي يحقق مثل هذا الانتشار. وعزا رد الفعل هذا إلى «طلب كامن» لم يكن قد أُطلق من قبل.

واصلت وسائل الإعلام بعد ذلك السؤال عن كيفية انتشار المنشور. نفى جاكوب التعاون مع أي جهة للترويج قبل النشر، لكنه اعترف بأنه أنشأ بعد نشر المنشور مجموعة تضم حوالي عشرة أشخاص وطلب منهم المساعدة في إعادة النشر، وكان من بينهم مؤسس منظمة سلامة الذكاء الاصطناعي Encode.

كما تواصل قبل النشر وبعده مع دانيال كوكوتايلو، مؤلف «AI 2027» والموظف السابق في OpenAI.

من يعتبرون جاكوب مبلغًا عن المخالفات سيقولون إنه راجع المسودة مرارًا وطلب من الآخرين نشرها بنفسه فقط لأنه أراد أن يصل تحذير يعتبره مهمًا بما يكفي إلى أكبر عدد ممكن من الناس. أما المشككون فيه فيتمسكون بالتفاصيل نفسها، معتبرين أن هذه الضجة صُممت بعناية منذ البداية.

يمكن للروايتين أن تستمرا في الجدال، لكن السؤال الأكثر إزعاجًا هو: ما الذي رآه جاكوب وداريو أمودي وسام ألتمان وأولئك الذين يعملون فعلًا بجوار النماذج المتقدمة، ولماذا بدأوا جميعًا في مناقشة هذه الأمور في هذا التوقيت بالذات؟

يمكنك أن تشكك في الطريقة التي أوصل بها جاكوب هذه الجملة إلى 170 مليون شخص، لكن استخدام أساليب النشر لا يعني أن الجملة كاذبة.

قبل عشر سنوات، كتب مؤسس إيثريوم فيتاليك بوتيرين مقالًا طويلًا يناقش احتمال تدمير الذكاء الفائق للبشرية في النهاية.

استخدم حينها تشبيهًا متطرفًا للغاية: محاولة البشر السيطرة على ذكاء فائق تشبه تقريبًا محاولة شخص بمعدل ذكاء 150 السيطرة على وكيل ذكي بمعدل ذكاء 6000. فإذا طلبت منه حل مشكلة السرطان، فقد يصل حتى إلى نتيجة مفادها القضاء أولًا على كل من قد يصابون بالسرطان.

في عام 2016، كانت هذه الأفكار موجودة أساسًا في المدونات والمنتديات والتجارب الفكرية. وبعد عشر سنوات، بدأت تظهر في رسائل استقالة موظفي المختبرات المتقدمة، وفي التصريحات العلنية للرؤساء التنفيذيين لأكبر شركات الذكاء الاصطناعي، كما بدأت تدخل في الأجندة الواقعية للتنظيم الحكومي وأسواق المال والمنافسة الدولية.

وهناك طبقة أخرى تجعل الأمر أكثر صعوبة.

في 2 أغسطس 1939، صاغ الفيزيائي ليو زيلارد رسالة وقعها أينشتاين. وبعد شهرين، وصلت الرسالة إلى روزفلت. حذرت الرسالة من أن الانشطار النووي قد يُستخدم لصنع قنبلة هائلة القوة، وأن ألمانيا النازية بدأت بالفعل التحرك في هذا المجال، وأن على الولايات المتحدة أن تتحرك بأسرع ما يمكن.

لم يشارك أينشتاين لاحقًا في مشروع مانهاتن، وظل نادمًا لفترة طويلة على توقيعه. لكن السؤال الذي واجههم حينها كان قاسيًا: حتى لو كنت تعتقد أن تقنية ما خطيرة، فطالما أنك تؤمن بأن خصمك يصنعها، فقد يكون التوقف أكثر خطورة من المضي قدمًا.

بعد أكثر من ثمانين عامًا، عادت المعضلة نفسها بشكل مختلف.

يقول داريو إنه يجب إبطاء السرعة، ويقول ترامب إن الصين ما زالت تلاحق؛ تريد المختبرات وضع قواعد سلامة مشتركة، لكن لا أحد منها مستعد لتسليم حق القرار بالكامل للآخرين. الجميع يتحدث عن المكابح، لكن الجميع أيضًا يراقبون ما إذا كانت السيارة المجاورة قد رفعت قدمها عن دواسة الوقود.

والأهم من ذلك أننا ما زلنا لا نعرف إلى أي مدى ترى العيون الأقرب إلى النماذج المتقدمة.