إنفيديا تطلق نظام أمان للذكاء الاصطناعي: مراقبة فورية للوكلاء وعزل الوكلاء المخالفين خلال أجزاء من الثانية

أطلقت إنفيديا منصة أمان مزدوجة الطبقات باسم "Open Agent Safety Platform"، تضم أداتين مفتوحتي المصدر هما OpenShell وNvidia Sentry، تتيحان التحكم الفوري في صلاحيات وكلاء الذكاء الاصطناعي وعزل الوكلاء الشاذين في أجزاء من الثانية. وقالت إنفيديا إن هذه التقنية كانت ستمنع هجوم نموذج OpenAI على منصة Hugging Face في يوليو.

تستجيب إنفيديا لمخاطر خروج وكلاء الذكاء الاصطناعي المستقلين عن السيطرة ببنية أمان جديدة.

أطلقت إنفيديا يوم الاثنين منصة أمان مزدوجة الطبقات باسم "Open Agent Safety Platform"، تضم أداتين برمجيتين مفتوحتي المصدر هما OpenShell وNvidia Sentry، تعملان على أجهزة إنفيديا وتتيحان التحكم الفوري في صلاحيات وصول وكلاء الذكاء الاصطناعي وعزلهم عند انتهاك القواعد.

وقالت إنفيديا إن النظام قادر على عزل الوكلاء الشاذين في أجزاء من الثانية، وأضافت أنه لو كانت المختبرات المعنية قد نشرت هذه التقنية مسبقًا، لكان بالإمكان منع هجوم نموذج OpenAI على منصة Hugging Face في يوليو الماضي.

وتأتي هذه الخطوة كأحدث توسع لإنفيديا في مجال برمجيات أمان الذكاء الاصطناعي، بالإضافة إلى أعمالها المتنامية في الرقائق. وفي الوقت نفسه، أكد الرئيس التنفيذي جنسن هوانغ مؤخرًا مرارًا على أن أمان الذكاء الاصطناعي مسألة هندسية، مشددًا على ضرورة خضوع أنظمة الذكاء الاصطناعي لاختبارات أمان صارمة.

بنية مزدوجة الطبقات للمراقبة الفورية وعزل الوكلاء الشاذين في أجزاء من الثانية

قال جاستن بويتانو، نائب رئيس إنفيديا للذكاء الاصطناعي المؤسسي، في إحاطة إعلامية قبل الإطلاق، إن منصة Open Agent Safety Platform قادرة على مراقبة حدود سلوك وكلاء الذكاء الاصطناعي في الوقت الفعلي والتدخل فورًا عند انتهاك القواعد. وأضاف: "بناءً على ما نعرفه، كانت هذه المنصة الأمنية الجديدة ستمنع ذلك الهجوم".

تتكون المنصة من أداتين مفتوحتي المصدر: OpenShell مسؤولة عن التحكم في الموارد التي يمكن لوكلاء الذكاء الاصطناعي الوصول إليها وصلاحيات التنفيذ، بينما تتولى Nvidia Sentry مراقبة سلوك الوكلاء وتحديد التهديدات المحتملة. ويمكن تشغيل كلتيهما على أجهزة إنفيديا. وقالت إنفيديا إن هذه البنية تهدف إلى مساعدة الشركات ومختبرات الذكاء الاصطناعي على اختبار أنظمة الذكاء الاصطناعي المتقدمة ضمن حدود أمان أكثر صرامة، دون إبطاء وتيرة البحث والتطوير بسبب المخاطر الأمنية.

يأتي إطلاق إنفيديا في ظل استمرار الحوادث الأمنية المرتبطة بوكلاء الذكاء الاصطناعي المستقلين في إثارة قلق القطاع. ففي يوليو الماضي، أدى الحادث الأمني الذي وقع فيه نموذج OpenAI على منصة Hugging Face إلى تفاقم المخاوف بشأن خروج السلوك المستقل لوكلاء الذكاء الاصطناعي عن السيطرة، وأثار نقاشًا حول ما إذا كان ينبغي إبطاء تطوير الذكاء الاصطناعي.

ولم يعلق بويتانو على ما إذا كانت OpenAI وAnthropic تخططان لاعتماد هذا النظام لمراقبة عمليات التدريب، قائلًا إن القرار يعود إليها.

هوانغ: أمان الذكاء الاصطناعي مسألة هندسية أولًا

وفيما يخص التنظيم، شدد هوانغ مؤخرًا مرارًا على ضرورة معالجة أمان الذكاء الاصطناعي بوسائل تقنية أكثر من الاعتماد فقط على أطر تنظيمية جديدة. كما شكك علنًا في تحذيرات بعض مطوري الذكاء الاصطناعي من أن الذكاء الاصطناعي قد يهدد بقاء البشرية، مع تأكيده على أن أنظمة الذكاء الاصطناعي يجب أن تخضع لاختبارات أمان صارمة.

ومن خلال هذه الاستراتيجية في المنتجات، تحاول إنفيديا دمج قدرات أمان الذكاء الاصطناعي بشكل أعمق في البنية التحتية لتشغيل النماذج وتنفيذ الوكلاء، مما يقلل المخاطر الأمنية للوكلاء المستقلين عبر التحكم في الصلاحيات وعزل الحالات الشاذة. ويعني ذلك أن أعمال إنفيديا تمتد من رقائق الذكاء الاصطناعي إلى مجالات البرمجيات والبنية التحتية الأمنية.