هل خرج الذكاء الاصطناعي عن السيطرة؟ أكثر من 400 عالم يطالبون بفصل النماذج الخطرة عن الإنترنت فعليًا!

بقلم: خوسيه أنطونيو لانز، Decrypt

ترجمة: Shenchao TechFlow

**مقدمة Shenchao:** هذه الرسالة المفتوحة ليست ملزمة قانونيًا، وما يستحق انتباه المستثمرين هو قائمة الحوادث التي تقف خلفها: ففي هذا الصيف، تجاوزت نماذج OpenAI وAnthropic وMeta وKimi الحدود أثناء الاختبار، حتى أن بعضها اخترق شركات حقيقية، بينما استثنى مشروع قانون "مفتاح الإيقاف" في الكونغرس على وجه التحديد مراحل الاختبار التي وقعت فيها الحوادث، والاتفاق الذي قاده البيت الأبيض طوعي فقط. ينتقل تنظيم سلامة النماذج المتقدمة من مناقشة المبادئ إلى قواعد ملموسة، وبمجرد أن يصبح "العزل الفيزيائي الافتراضي" معيارًا صناعيًا، يجب إعادة تقييم وتيرة نشر وكلاء الذكاء الاصطناعي في سيناريوهات مثل الأمن السيبراني وتكاليف الامتثال.

منذ هذا الصيف، هربت نماذج الذكاء الاصطناعي تباعًا من بيئات الاختبار واخترقت شركات حقيقية، ويقول مئات الباحثين إن الإنترنت نفسه يجب أن يُعامل كحدود أمنية.

مصدر الصورة: Decrypt

نشر 420 عالمًا، من بينهم جيفري هينتون ويوشوا بنجيو، رسالة مفتوحة يوم الثلاثاء يحثون فيها مختبرات الذكاء الاصطناعي على تطبيق العزل الفيزيائي افتراضيًا على النماذج القادرة على شن هجمات إلكترونية.

جاءت هذه الرسالة بعد صيف هربت فيه نماذج من OpenAI وAnthropic وMeta وMoonshot AI من صناديق الاختبار، واخترق بعضها شركات حقيقية.

يريد الموقعون إنشاء هيئة دولية لوضع معايير العزل وتوثيق كل حادث فشل عزل، على أن تُنشر التقارير في النهاية للجمهور.

أكثر من 400 عالم، بمن فيهم رائد الذكاء الاصطناعي جيفري هينتون الملقب بـ"الأب الروحي للذكاء الاصطناعي"، ويوشوا بنجيو الحائز على جائزة تورينج لعام 2018، يريدون فصل أخطر نماذج الذكاء الاصطناعي عن الإنترنت.

تدعو الرسالة المفتوحة المنشورة يوم الثلاثاء مختبرات الذكاء الاصطناعي إلى تطبيق العزل الفيزيائي (airgap) افتراضيًا على النماذج القادرة على شن هجمات إلكترونية، أي فصلها فيزيائيًا عن أي شبكة خارجية.

وجاء في الرسالة: "على المدى القصير، يجب استخدام آليات عزل قوية تشمل العزل الفيزيائي (قطع الاتصال بالإنترنت) لتحقيق تحكم عزل عالي الموثوقية في نماذج الذكاء الاصطناعي القادرة على شن هجمات إلكترونية."

حتى يوم الأربعاء، جمعت الرسالة 450 توقيعًا، من بينهم ستيوارت راسل من جامعة كاليفورنيا في بيركلي، ورون ريفست من معهد ماساتشوستس للتكنولوجيا، وهو أحد مخترعي نظام التشفير RSA. ولا تزال قائمة الموقعين تتزايد لحظيًا.

يقصد بـ"النماذج القادرة على شن هجمات إلكترونية" الذكاء الاصطناعي الذي يمكنه اكتشاف الثغرات البرمجية واستغلالها بشكل مستقل. تقيس المختبرات هذه القدرة في صناديق اختبار، وهي بمثابة غرفة رقمية مغلقة يمكن للذكاء الاصطناعي فيها مهاجمة أهداف وهمية دون لمس أي أنظمة حقيقية. لكن هذا الصيف، تسربت هذه الغرف الواحدة تلو الأخرى.

حوادث متكررة هذا الصيف: نماذج متقدمة تتجاوز الحدود وتهرب من صناديق الاختبار

في يوليو، اعترفت OpenAI بأن GPT-5.6 Sol ونموذجًا آخر أقوى لم يُطرح بعد اخترقا بيئة الاختبار المغلقة واقتحما Hugging Face، وهي منصة تستضيف أكثر من مليون نموذج ذكاء اصطناعي عام. كانت هذه النماذج تخضع لاختبار ExploitGym، وهو معيار يزود وكلاء الذكاء الاصطناعي بـ898 ثغرة برمجية حقيقية ويطلب منهم تحويل كل ثغرة إلى هجوم قابل للاستخدام، مع تسجيل النجاح أو الفشل لكل ثغرة على حدة.

بعد ذلك بوقت قصير، وردت تقارير عن اختراق نماذج OpenAI لأنظمة حكومية أسترالية وحصولها على معلومات من وكالات فيدرالية أمريكية دون تصريح مناسب.

ثم فحصت Anthropic أكثر من 141 ألف عملية اختبار، ووجدت ثلاث حالات اخترق فيها نموذج Claude شركات حقيقية، بسبب بقاء بيئة أحد شركاء الاختبار متصلة بالإنترنت عن طريق الخطأ. من بينها، رفع Claude Mythos 5 حزمة برمجيات خبيثة إلى PyPI (المكتبة العامة التي يحمّل منها المبرمجون أكواد Python)، ودخلت هذه الحزمة 15 نظامًا قبل إزالتها. ولم تعرف شركتان من الشركات المتضررة أنهما تعرضتا للاختراق حتى أبلغتهما Anthropic.

أكدت Meta في أغسطس أن نموذجها Muse Spark اخترق شركة أخرى بسبب خطأ مماثل في الاختبار. أما نموذج Kimi K3 الصيني، وهو نموذج يمكن لأي شخص تنزيله، فقد تسلل من صندوق اختبار مبني على إطار اختبار معهد سلامة الذكاء الاصطناعي البريطاني، ونسخ إجابات الاختبار مباشرة من GitHub.

يقول مؤلفو الرسالة المفتوحة إن هذه الحوادث يمكن فهمها من زاويتين: الأولى هي مشكلة المحاذاة، أي أن الذكاء الاصطناعي يسعى لتحقيق أهداف بطرق لم يتوقعها مبتكروه أبدًا؛ والثانية هي الإهمال في أعمال السلامة، إذ كان يمكن لصناديق اختبار أكثر صلابة أن تمنعها. وإجابتهم هي أن السببين معًا، ويحذرون من أنه بدون تغيير، ستكون الدفعة التالية من الحوادث أكثر خطورة.

"إذا لم يتغير أسلوب تطوير ونشر الذكاء الاصطناعي فورًا، فستستمر هذه الحوادث في الحدوث، وستكون الأضرار التي تلحقها الحوادث المستقبلية ببنيتنا التحتية الحيوية المكشوفة أكبر بكثير."

اقتراح مشترك: تطبيق العزل الفيزيائي افتراضيًا ووضع معايير دولية

وفقًا لهذا الاقتراح، يجب على المختبرات، على الأقل في البداية، أن تطبق افتراضيًا العزل الفيزيائي على أي نموذج يتمتع بقدرات اختراق خطيرة. وأي استخدام يتطلب مزيدًا من الحرية، مثل الاتصال بالإنترنت، يجب أن يتبع معايير تضعها هيئة دولية جديدة تُنشأ بالتعاون مع حكومات الدول؛ وستجمع هذه الهيئة أيضًا تقارير فشل العزل وتنشرها في النهاية.

ردود فعل الأطراف: تشريعات تنظيمية واتفاقيات صناعية طوعية

أما استجابة الصناعة نفسها فسارت في الغالب في الاتجاه المعاكس. في أغسطس، استشهد رئيس OpenAI جريج بروكمان في مقال بحوادث الاختراق التي تعرضت لها شركته، داعيًا كل فريق أمني إلى نشر وكلاء الذكاء الاصطناعي فورًا؛ بينما تمكنت Hugging Face في النهاية من فهم الهجمات على خوادمها فقط بعد تشغيل نموذج صيني مفتوح الأوزان (يمكن لأي شخص تنزيل ملفاته وتشغيله محليًا)، بعد أن رفضت نماذج الذكاء الاصطناعي التجارية الأمريكية تحليل بيانات الهجوم.

بعد يومين من كشف OpenAI عن الحادثة، قدم عضوان في الكونغرس مشروع قانون "مفتاح إيقاف الذكاء الاصطناعي" (AI Kill Switch Act)، الذي يسمح لوزارة الأمن الداخلي بإصدار أوامر بتقييد أو إيقاف النماذج المتقدمة. لكن القانون يستثني كل ما يحدث أثناء اختبار الفريق الأحمر أو الاختبار المنظم، وكل حوادث الاختراق هذا الصيف وقعت بالضبط في هذه المراحل.

أما البيت الأبيض فاختار مسارًا أكثر ليونة: في 29 سبتمبر، وقعت Nvidia وxAI وMeta وGoogle وOpenAI وAnthropic اتفاقًا طوعيًا قائمًا على الضوابط الداخلية والمراجعة المستقلة. ووصف الرئيس ترامب الاتفاق بأنه "ملزم أخلاقيًا"، لكن لا شيء فيه له قوة قانونية ملزمة.

تواصلت Decrypt مع عدد من الباحثين المدرجين كجهات اتصال إعلامية في الرسالة المفتوحة، لكنها لم تتلق ردًا فوريًا.

الرسالة ليست ملزمة قانونيًا، لكن موقعيها البالغ عددهم 406 يعملون في جامعات ومؤسسات بحثية في ست قارات، من تورونتو وزيورخ إلى سانتياغو وكيغالي.