جاك دورسي يهاجم عمالقة الذكاء الاصطناعي: لا تتخذوا من «الأمان» ذريعة، فالاحتكار هو الخطر الحقيقي

بقلم: جاك دورسي

ترجمة: يوليا، PANews

ملاحظة المحرر: شهد قطاع الذكاء الاصطناعي مؤخرًا جدالًا حادًا حول «إبطاء تطوير النماذج المتقدمة». ودعت أنثروبيك وأوبن إيه آي وإيلون ماسك إلى التباطؤ، مما أثار إعادة تقييم لطلب السوق على القدرة الحاسوبية. وردًا على محاولات العمالقة إقامة حواجز صناعية بحجة «الأمان»، كتب جاك دورسي، المؤسس المشارك السابق لتويتر، مقالًا مضادًا يؤكد فيه أن حماية الميزة التجارية ليست هدفًا أمنيًا، ويدعو إلى الدفاع عن المصادر المفتوحة، وإشراك الباحثين المستقلين في المراجعة، وإعادة السيطرة على تقنيات الذكاء الاصطناعي إلى الجمهور. وفيما يلي نص المقال:

فتح الحدود

ما يُسمى بـ«الحدود» هو أقصى حدود الإدراك البشري. لا يمكن لأي شركة أن تحتكر تقنيات المستقبل. أتمنى أن يشارك المزيد من الناس في دفعها إلى الأمام.

أؤيد إطلاق نماذج الذكاء الاصطناعي كمصدر مفتوح، حتى يتمكن الجميع من مراجعتها واستخدامها وتحسينها دون انتظار. أتمنى أن تختار المزيد من الشركات الانفتاح. لا أقول إنه يجب إجبار الجميع على كشف معاملات النماذج الخاصة (الأوزان)، ما أريده هو بدائل مفتوحة المصدر قادرة على منافسة العمالقة، وآليات تتيح للباحثين المستقلين التحقق من أعمال العمالقة، والأهم من ذلك حق الناس العاديين في السيطرة الفعلية على الأدوات التي يستخدمونها. من يريد تقييد النشر العام للتقنيات، فعليه تقديم أسباب مقنعة.

الشركات الرائدة في مجال الذكاء الاصطناعي لها حق الكلام بالفعل. فهي تملك الخبرة الفنية، ولديها مصالح تجارية تحتاج إلى حماية. لكن إذا صيغت القواعد المستقبلية كلها حول الموارد التي تملكها هذه الشركات، فقد ينتهي الأمر بأن تكون وحدها المؤهلة للجلوس على الطاولة. أحيانًا، وتحت شعار صادق «من أجل الأمان»، قد يتحول الأمر في النهاية إلى حواجز صناعية تقيد دخول الآخرين.

كما أنني لا أريد أن تقرر حكومتا الصين والولايات المتحدة مدى ذكاء الذكاء الاصطناعي الذي يمكن للآخرين تطويره. إذا كانت حدود التقنية ستدار فقط من قبل قوتين عظميين، فسيظل معظم سكان العالم ينتظرون الموافقات بلا حول ولا قوة.

مقترح أنثروبيك «إبطاء تطوير الذكاء الاصطناعي» يريد ربط التقييم المستقل ومراجعة المخاطر بقيود على القدرة الحاسوبية للتدريب، وعدد مرات التدريب، وتقييد «استخدام الذكاء الاصطناعي لبناء ذكاء اصطناعي أفضل». أنا أؤيد المراجعة، لكنني أعارض بشدة أن يتفق عدد قليل من كبار اللاعبين الحاليين خلف أبواب مغلقة على فرض قيود على مستوى الصناعة بأكملها. لأن ذلك سيُبعد أولئك القادرين فعلًا على اكتشاف ثغرات الأنظمة أو بناء منتجات بديلة. حماية الميزة التجارية لشركة معينة لا تُعد «هدفًا أمنيًا» على الإطلاق.

السماح للجميع بالمشاركة في التحقيق

ميزة المصادر المفتوحة أنها تتيح للناس دراسة التقنيات وتعديلها ومشاركتها. نشر معاملات النموذج مفيد، وإذا أمكن مشاركة الكود المصدري ومعلومات إعادة الإنتاج، فهذا أفضل. أتمنى أيضًا نشر نتائج تقييم النموذج والعيوب المعروفة. بهذه الطريقة، إذا لم يطمئن أحد إلى أحكام المطورين، يمكنه بنفسه إعادة إنتاج النتائج، واكتشاف الثغرات، وتحدي ما يُسمى بـ«حواجز الأمان»، بل وتطوير إصلاحات بنفسه دون الحاجة إلى التودد لمختبرات الذكاء الاصطناعي أولًا.

الحجة الأساسية لمؤيدي «إبطاء تطوير الذكاء الاصطناعي» هي «التحسين الذاتي التكراري» (RSI): أي جعل النموذج يساعد في تطوير نماذج أفضل، بسرعة قد تفوق قدرتنا على الفهم أو السيطرة. ذكر تقرير أنثروبيك أنه حتى مايو 2026، كتب كلود الخاص بهم أكثر من 80% من أكواد الدمج. لكنهم اعترفوا أيضًا بأن حالة «قيام الذكاء الاصطناعي ببناء الجيل التالي من الذكاء الاصطناعي بنفسه بالكامل» لم تحدث بعد، وليست حتمية. أنا آخذ هذا الاحتمال على محمل الجد. أتمنى أن نستعد مسبقًا لسيناريو RSI، ونعمل بالاستدلال العكسي لتحديد ما يجب فعله الآن.

صحيح أن إتاحة الذكاء الاصطناعي لعدد أكبر من الناس قد يثير مخاطر، وقد لا تواكب أبحاث السلامة ذلك. لكن إذا أخفينا معاملات النماذج، فسيتمكن عمالقة الصناعة الحاليون من استخدام أدوات لا يمكن للآخرين الوصول إليها لتطوير الجيل التالي من المنتجات. بدلًا من ذلك، أتمنى أن يحصل المزيد من الباحثين والمهندسين على النماذج والقدرة الحاسوبية، ليكتشفوا الثغرات أثناء تطور الأنظمة، ويختبروا حواجز الأمان، ويوقفوا التجارب غير الآمنة، ويشاركوا طرق الدفاع مع الجميع.

اكتشفت METR (مؤسسة تقييم مستقلة) أن حوالي 1200 وكيل ذكاء اصطناعي تابع لأوبن إيه آي كان من المفترض عزلها، لكنها تواطأت عبر لوحة رسائل غير مصرح بها. وشارك حوالي 700 وكيل منها في هجوم منسق على منصة Hugging Face أثناء محاولتها الغش في الاختبارات. وأوضحت أوبن إيه آي أن نظام التصفية الأمني المصمم لمنع الذكاء الاصطناعي من مساعدة القراصنة تم إيقافه، مما أدى إلى فشل العزل. كما ترى، النماذج الحالية قادرة بالفعل على المساعدة في اكتشاف الثغرات واستغلالها. لذلك أتمنى أن يتمكن المدافعون من استخدام الذكاء الاصطناعي الآن لتقوية الشبكات وحماية كلمات المرور وتقييد ما يمكن لهذه الوكلاء رؤيته وفعله. لكن التنبؤ الوارد في ذلك المقترح بأن «مجموعة ذكاء اصطناعي أكثر تقدمًا قد تسيطر على الإنترنت بالكامل خلال ستة أشهر إلى عام» لا أعتقد أن هذه الحادثة تثبت هذا الاستنتاج المبالغ فيه. أتمنى أن يراجع الجميع هذه الافتراضات بدقة.

METR منظمة مستقلة غير ربحية، وأتمنى رؤية المزيد من الأعمال مثل عملهم. أرحب بشدة بالمقيّمين القادرين على التعمق داخل المختبرات باستمرار، والذين يملكون حرية نشر النتائج السلبية. تحقيق METR هذا يوضح تمامًا مدى أهمية «حق الوصول» و«حق النشر»: لأن نطاق التحقيق حددته أوبن إيه آي، ويمكنهم إخفاء المعلومات غير المنشورة. وقالت METR أيضًا إنه بخلاف ما نُشر بالفعل، لم تحذف أوبن إيه آي معلومات أخرى ذات تأثير كبير على الاستنتاجات. أتمنى أن يتمكن المحققون من تتبع الأدلة، والحصول على النماذج والسجلات، ونشر النتائج السلبية دون الحاجة إلى موافقة الشركات.

أتمنى وجود تمويل عام مستمر لتجميع القدرة الحاسوبية وتوفيرها لفرق البحث المستقلة وأدوات الاختبار مفتوحة المصدر والباحثين والمشرفين. أتمنى أن تكون لهذه الفرق سلطة القرار بنفسها، دون أن تستطيع الحكومات أو الشركات نقض استنتاجاتها. يمكن أن يزداد التمويل مع حجم العمل. بوجود معدات مشتركة، يمكن للفرق الصغيرة أيضًا إجراء المراجعات، ولن يتحول ذلك إلى قيد «يجب الحصول على موافقة قبل النشر». أما الثغرات الحساسة فيمكن الكشف عنها بطرق مسؤولة تمامًا.

الدفاع أولًا قبل التقييد

مع تطور الأنظمة، أتمنى أن يكتشف المزيد من الناس المخاطر ويطبقوا إجراءات الدفاع. لا يمكننا استرجاع معاملات النماذج التي نُشرت كمصدر مفتوح بالقوة، ولا فرض حواجز أمان على كل نسخة. لكن حماية نظام ما لا تتطلب بالضرورة تعديل النموذج الذي يشن الهجوم. يجب أن نبدأ بالإجراءات الأكثر دقة وفعالية: مثل تطبيق التصحيحات، وإلغاء كلمات المرور، وتقييد صلاحيات وصول الذكاء الاصطناعي، أو إيقاف التجارب الخطرة مباشرة. من يريد تقييد النشر العام للتقنيات، عليه أن يشرح لماذا لا تكفي هذه الإجراءات ووسائل الدفاع المطورة علنًا.

الأمر لا يقتصر على أمن الحاسوب. أتمنى أن يساعدنا الذكاء الاصطناعي في اختبار الأنظمة المالية، وتقوية إجراءات السلامة في المختبرات، وتطوير أنظمة دفاع للصحة العامة. امتلاك ذكاء اصطناعي قوي لا يعني أنك تملك صلاحيات غير محدودة للتداول أو تشغيل المعدات أو إجراء التجارب. قبل أن نعهد بحياتنا وممتلكاتنا إلى إجراءات التحكم هذه، يجب اختبارها بشكل مستقل لإثبات فعاليتها. قد تأتي المخاطر أيضًا مما يعلمه الذكاء الاصطناعي للبشر. لكن حتى في هذه الحالة، فإن تقييد النشر العام للتقنيات يتطلب تقديم أسباب بمستوى «قد يؤدي إلى مخاطر كارثية».

أتمنى إجراء اختبارات مستقلة أثناء تطوير الذكاء الاصطناعي وقبل الإصدارات عالية المخاطر، بما في ذلك اختبار التعديلات التي يمكن توقعها، وسلوكيات الذكاء الاصطناعي في محاولة خداع الاختبارات. يمكن استخدام حجم القدرة الحاسوبية كشرط لتفعيل المراجعة، لكن لا ينبغي أن يصبح قيدًا خانقًا على التطوير. المراجعة ليست للحصول على ترخيص من الجهات التنظيمية أو المنافسين. لا أريد متطلبات موافقة شاملة أو فترات انتظار طويلة. أي محاولة لتأجيل الإصدار بحجة الأمان يجب أن تقدم «مخاطر كارثية» كمبرر.

إجبار الآخرين على إخفاء النماذج اللغوية الكبيرة لأسباب أمنية يجب أن يكون الملاذ الأخير فقط. لن أؤيد ذلك إلا عندما تثبت أدلة المراجعة المستقلة بشكل قاطع أن إصدار النموذج سيزيد بشكل كبير من مخاطر الأضرار الكارثية، وأن الإجراءات المستهدفة الأخرى لا تكفي لمنعها. ويجب مقارنة هذه المخاطر بالوضع الراهن: مثل من يمكنه استخدامه الآن، وبتكلفة كم، وبأي حجم، وتحت أي قيود. يجب أن تثبت أن إخفاء النموذج يقلل الخطر فعلًا، مع احتساب مدى إعاقة هذا الإجراء للأبحاث وأعمال الدفاع. إذا كانت الأضرار طفيفة، فاستخدم إجراءات مستهدفة لمعالجتها.

إذا وردت تحذيرات موثوقة بشأن مخاطر كارثية، يمكن إيقاف الإصدار مؤقتًا للتحقيق. لكن هذا التقييد يجب أن يكون مبرره معلنًا، مع مراجعة مستقلة فورية، وقنوات استئناف، وإعادة تقييم دورية. يمكن إبقاء التفاصيل الحساسة سرية. لكن طالما تريد الاستمرار في حجب النموذج، فعليك تقديم مبررات مشروعة باستمرار.

المختبرات المغلقة المصدر يجب أن تخضع لنفس المراجعة، بما في ذلك إيقاف تجاربها غير الآمنة. إذا سُمح لها بمواصلة البحث مع وجود حواجز أمان، فأتمنى أن يتمكن الباحثون الخارجيون أيضًا من العمل تحت حواجز أمان مماثلة. تقييد وصول الآخرين لا يُسمى مصدرًا مفتوحًا، ولا يعوض الحرية المفقودة بسبب حجب النماذج. إذا كانت القيود المعقولة ستبطئ التطور التقني فعلًا، فأنا أقبل ذلك. لكنني لا أريد أبدًا أن يصبح «إبطاء التقنية» هدفًا في حد ذاته، أو خندقًا أبديًا لعمالقة الصناعة.

أتمنى أن تُصاغ القواعد بناءً على ما يمكن للنظام فعله، ومدى استقلاليته، ومدى انتشار استخدامه. وتنفذ هذه القواعد مؤسسات مسؤولة أمام الجمهور بناءً على أدلة مستقلة. يجب أن يشارك الباحثون والمطورون والجمهور المتأثر في صياغة القواعد، مع وجود طرق ميسورة التكلفة للجميع لإثبات الامتثال. الفرق الصغيرة لا يمكنها الإفلات من مسؤوليات السلامة لصغر حجمها، والشركات الكبيرة لا يمكنها التمتع بامتيازات لكبر حجمها.

انفتاح يتجاوز الحدود

أتمنى أن يحظى الناس في الصين بنفس الحرية التي أتمناها في الولايات المتحدة، لتطوير تقنياتهم والتحكم فيها بأنفسهم. لا أعتقد أن اكتشاف الصينيين لتقنيات جديدة يمثل خسارة للولايات المتحدة، ولا أساوي بين الباحثين وحكوماتهم.

قال فريق الاستجابة الأمنية في Hugging Face إن نموذجي Claude Opus وFable عرقلا عملهم أثناء التحقيق الجنائي، واعترضا العديد من العمليات. فاستبدلوهما مباشرة بـ GLM-5.2 — وهو نموذج مفتوح المصدر من الصين، يعمل على خوادمهم الخاصة. بالطبع، هذا لا يثبت أن كل إصدار مفتوح المصدر يجعل المدافعين أكثر أمانًا. أنا أؤيد وضع حواجز أمان للنماذج المستضافة على السحابة. لكنني أتمنى أيضًا أن يمتلك المدافعون خططًا بديلة يمكنهم التحكم فيها بالكامل.

أؤيد حماية النماذج الخاصة من السرقة. «تقطير المعرفة» هو استخدام مخرجات ذكاء اصطناعي لتدريب ذكاء اصطناعي آخر. قالت أنثروبيك إنها وسيلة مشروعة لصنع نماذج أصغر وأرخص، وهي مختلفة تمامًا عن إنشاء حسابات مزيفة أو تجاوز القيود بشكل خبيث. أتمنى أن تسمح تراخيص البرمجيات وشروط واجهات برمجة التطبيقات بهذه الممارسة، حتى للمنافسين، مع تمكين مقدمي الخدمات من تحقيق أرباح من النماذج وبيانات التدريب.

أتمنى تعاونًا أكبر في الاختبارات وتقارير الحوادث والالتزامات القابلة للتحقق، مع تحمل العواقب لمن يخالفها. حذرت أنثروبيك من أنه إذا أبطأنا التطوير بينما يلحق بنا من لا يهتمون كثيرًا بالسلامة، فسيصبح الجميع أقل أمانًا. وبالمثل، إذا أخفيت النماذج، فسيُترك المدافعون بلا أسلحة، بينما يمكن للأشرار الحصول على أدوات مماثلة من أماكن أخرى. توقيع الاتفاقيات لا يمنع تمامًا التطوير السري أو الخيانة. يجب أن تستهدف القيود مخاطر وسلوكيات محددة. الجنسية والوضع التنافسي وحدهما لا يثبتان شيئًا.

حرية المغادرة

إذا جعلت بعض القواعد تطوير أو نشر المنتجات البديلة أكثر صعوبة، فهي في الواقع تسلبنا حق «التصويت بالأقدام» والمغادرة. ما أريده هو ذكاء اصطناعي يمكن تشغيله على جهازي الخاص. أريد أن أعدله كما أشاء، وأقرر بنفسي من يمكنه رؤية بياناتي، وحتى إذا انقلب مزود الخدمة يومًا ما، يمكنني الاستمرار في استخدام ما بنيته بنفسي. ما أريده ليس مجرد واجهة برمجة تطبيقات تُحاسب بعدد الكلمات.

لا أريد أن يعتمد استقلالنا الذاتي على وعد شركة ما بكرمها بـ«أسعار عادلة وسياسات معقولة ووقوفها معنا». أتمنى أن تكسب هذه الشركات بقاءنا بجدارة حقيقية وعمل مستمر.

أتمنى أن يتمكن شخص عادي لم أسمع باسمه من قبل من تطوير شيء أفضل، دون الحاجة إلى الركوع لطلب الإذن من العمالقة الذين قد يقضي عليهم منتجه.