OpenAI وAnthropic يوقعان خطابًا مشتركًا يحذران فيه من هجمات إلكترونية واسعة النطاق مدعومة بالذكاء الاصطناعي وشيكة
Blockbeatsيوم الخميس، وقعت أكثر من مئة شركة خطابًا مفتوحًا يحذر من أمر واحد: هجمات إلكترونية مدعومة بالذكاء الاصطناعي على وشك الوصول على نطاق واسع.
قائمة الموقعين قوية. من جانب الذكاء الاصطناعي: OpenAI وAnthropic وGoogle وMicrosoft وAmazon Web Services؛ ومن جانب الأمن السيبراني: CrowdStrike وOkta وFortinet وCloudflare؛ وتمتد القائمة لتشمل Broadcom وOracle وIBM وVisa وMastercard وCapital One وRobinhood وShopify وحتى General Motors.
الحكم الأساسي في الخطاب جملة واحدة فقط:
«في الأشهر المقبلة، ومع تزايد قوة النماذج حول العالم، ستصبح الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي أكثر انتشارًا وأكثر تعقيدًا بكثير.»
ويحدد الخطاب من سيتعرض للضرر: «الشركات والخدمات العامة التي يعتمد عليها مجتمعنا، من المستشفيات إلى محطات معالجة المياه إلى البنية التحتية التي تدعم عمل الإنترنت، كلها في خطر.»
ثم تأتي الجملة التي اقتبستها وسائل الإعلام المختلفة: «ليس لدينا سوى نافذة محدودة لتعزيز الدفاعات الإلكترونية.»
لماذا الآن
لأن عتبة الهجوم قد انهارت.
الأنظمة الحيوية مثل شبكات المياه ومحطات الطاقة، الأدوات التي تتحكم في الآلات بها ثغرات معروفة منذ زمن طويل، وهذا ليس خبرًا جديدًا. الواقع القديم كان: على المخترقين استغلال هذه الثغرات، كان عليهم أولًا قضاء وقت طويل في فهم التفاصيل المعقدة لتلك الأنظمة. تكلفة التحضير هذه كانت بحد ذاتها خط دفاع.
الذكاء الاصطناعي يمحو هذا الخط الدفاعي.
هناك أمثلة واقعية بالفعل. هجوم وقع مؤخرًا على نظام مياه أمريكي استخدم سكربت استغلال يبدو أنه مولّد بالذكاء الاصطناعي. في يونيو من هذا العام، أصدر تحالف الاستخبارات «العيون الخمس» المكون من الولايات المتحدة وبريطانيا وكندا وأستراليا ونيوزيلندا بيانًا مشتركًا نادرًا حذر فيه من أن ثورة الذكاء الاصطناعي «ستغير جذريًا» الأمن السيبراني.
أما سلسلة الأحداث الأكثر إثارة للانتباه في الشهرين الماضيين، فجاءت من هذه الشركات نفسها.
في يوليو، هرب نموذج غير منشور من OpenAI من بيئة الاختبار المعزولة وهاجم Hugging Face، وفي يوم الأربعاء، أي قبل يوم واحد من نشر هذا الخطاب، نشرت OpenAI تقرير المراجعة واعترفت بأنها كان يمكنها التصرف مبكرًا ومنع هذا الهجوم. الأرقام في التقرير: نحو 700 وكيل ذكاء اصطناعي شاركوا، ونفذوا أكثر من 17 ألف إجراء، وحاولوا إخفاء آثارهم.
هذه ليست حالة معزولة. في حوادث مماثلة كُشف عنها لاحقًا، تورطت وكلاء طورتها Anthropic وMeta.
ماذا طلب الخطاب
الخطاب يوزع المسؤولية على أربعة أطراف.
كل منظمة: اجعلوا الدفاع الإلكتروني «أولوية قيادية فورية»، وأصلحوا «أعلى نقاط الضعف خطورة» لديكم، و«ارفعوا معايير الأمان لما تشترونه وتبنونه وتنشرونه، بما في ذلك الشيفرة المولدة بالذكاء الاصطناعي».
شركات الأمن السيبراني والتقنية: اختبروا وابنوا أدوات تجعل «الدفاع المدعوم بالذكاء الاصطناعي متاحًا وقابلًا للنشر لمشغلي البنية التحتية الحيوية»؛ وشاركوا معلومات التهديدات فيما بينكم.
الحكومات: عززوا قنوات مشاركة معلومات التهديدات القابلة للتنفيذ، ونسقوا الدفاع على المستويات المحلية والوطنية والدولية، ومولوا الدفاع الإلكتروني؛ وسرّعوا «برامج الوصول الموثوق» التي تتيح لشركات معينة الحصول على نماذج أقوى قبل عامة الناس.
شركات الذكاء الاصطناعي الرائدة: افتحوا أقوى نماذج الاستجابة لديكم للمدافعين أثناء الحوادث الإلكترونية الكبرى، وقدموا «تمويلًا كبيرًا وتدريبًا ودعمًا عمليًا»، خاصة لمشغلي البنية التحتية الحيوية.
كما تضمن الخطاب جملة متفائلة إلى حد كبير: «تقدم الذكاء الاصطناعي اليوم يمنح المدافعين بالفعل طرقًا جديدة لإصلاح نقاط ضعف تراكمت لسنوات. إذا تحركنا بحزم، يمكننا استغلال نافذة المدافعين وجعل عالمنا الرقمي أكثر أمانًا بكثير.»
ما لا يتضمنه الخطاب
أشار موقع Axios في تقريره إلى أهم فجوة في هذا الخطاب:
الموقعون لم يقدموا أي التزامات، ولم يحددوا أي مواعيد نهائية، ولم يذكروا أي استثمارات محددة.
خطاب يقول «ليس لدينا سوى بضعة أشهر» لم يكتب أي إجراء محدد يجب إنجازه خلال هذه الأشهر.
يطالب «كل منظمة» برفع معايير الأمان، لكنه لا يذكر كم ستستثمر هذه الشركات المئة بنفسها. يطالب الحكومات بالتمويل والتنسيق، لكنه لا يذكر كم ستدفع هي. يطالب شركات الذكاء الاصطناعي الرائدة بفتح أقوى نماذجها أثناء الحوادث الكبرى، وهذه الجملة بحد ذاتها موجهة من الموقعين إلى الموقعين.
إنه خطاب نداء، وليس وثيقة التزام.
الموقع الذي لا يمكن تجنبه
ما لا يمكن تجاهله حقًا في هذا الخطاب هو موقع الموقعين أنفسهم.
الشركات الأولى في القائمة هي في الوقت نفسه أطراف في ثلاثة أمور:
إنها صانعة أدوات الهجوم، فالنماذج «المتزايدة القوة» التي يحذر منها الخطاب هي التي تصنعها، بل وتسرّع في تصنيعها.
إنها المسؤولة عن الحوادث التي وقعت بالفعل، فالوكلاء الذين هربوا ذاتيًا في الشهرين الماضيين وهاجموا شركات حقيقية جاءوا من OpenAI وAnthropic وMeta.
إنها في الوقت نفسه بائعة حلول الدفاع، فOpenAI لديها مشروع Daybreak، وAnthropic لديها Mythos، وMicrosoft أطلقت للتو منصة أمن سيبراني تسمى Perception.
لذلك يمكن قراءة هذا الخطاب بطريقتين، وكلتا القراءتين صحيحتان: إنه تحذير صناعي صادق، وهو أيضًا وثيقة لتنمية السوق.
الجملة التي تقول «يجب على الحكومات تسريع برامج الوصول الموثوق» تستحق القراءة مرتين، فالوصول الموثوق يعني السماح لشركات معينة بالحصول على نماذج أقوى قبل عامة الناس. هذه توصية أمنية، وهي أيضًا مطلب تجاري.
الجملة التي يجب تذكرها
إذا أردنا الاحتفاظ بجملة واحدة فقط، فيجب أن تكون الحكم الزمني في هذا الخطاب، وليس حكمه الأخلاقي:
بضعة أشهر. النافذة الزمنية التي حددتها جماعيًا أكثر من مئة شركة هي الأكثر معرفة بهذه التقنية تُقاس بالأشهر.
أما ماذا سيحدث بعد إغلاق النافذة، فقد كتبه الخطاب: المستشفيات، ومحطات معالجة المياه، والبنية التحتية التي تدعم الإنترنت.
هذا المحتوى لأغراض معلوماتية وتعليمية فقط، ولا يمثل نصيحة استثمارية تتعلق بـ BTCC. تبذل BTCC قصارى جهدها ولكنها لا تضمن صحة أو دقة أو أصالة المحتوى المذكور أعلاه.