تقارير: OpenAI وAnthropic تبحثان اختبار نماذجهما الكبيرة بشكل متبادل

وفقًا لتقارير إعلامية نقلًا عن مصادر مطلعة، درست Anthropic وOpenAI توقيع اتفاقية ملزمة قانونًا لإجراء اختبارات إجهاد لنماذجهما الكبيرة بشكل متبادل. وفي وقت سابق من هذا العام، ناقشت الشركتان وفرقهما القانونية هذه الخطة، التي تسمح للمنافسين بإجراء اختبارات معمقة على أحدث النماذج المتاحة لدى الطرف الآخر لتحديد المخاطر المحتملة أو الثغرات الأمنية. ولا ينطبق هذا النوع من الاختبارات إلا على النماذج المتاحة تجاريًا، واتفق الطرفان على عدم الاحتفاظ ببيانات بعضهما البعض. ولم يوضح التقرير ما إذا كان الطرفان قد توصلا في النهاية إلى مثل هذه الاتفاقية. وفي الآونة الأخيرة، اكتسبت فكرة تطبيق شكل من أشكال مراجعة الأقران بين مختبرات الذكاء الاصطناعي الرائدة اهتمامًا. واقترح الرئيس التنفيذي لشركة SpaceX، إيلون ماسك، الأسبوع الماضي أن تسمح عدة شركات رائدة للنماذج الكبيرة في الولايات المتحدة وبعض شركات الذكاء الاصطناعي الصينية للمنافسين بإجراء اختبارات متبادلة. وقال ماسك: تمتلك جميع شركات الذكاء الاصطناعي مجموعة من أدوات الاختبار، وقد يكون قيام كل شركة بتشغيل اختباراتها باستخدام أدوات شركة أخرى أفضل ما يمكنها فعله لضمان سلامتها. وفي وقت سابق من هذا الشهر، أعلن باحث Anthropic جاكوب كوكسون استقالته وحذر شركات الذكاء الاصطناعي الرائدة من تسريع التطوير دون ضمانات مناسبة. وبعد ذلك، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، الصناعة إلى إبطاء تطوير الذكاء الاصطناعي وإدخال آليات تقييم من طرف ثالث. وأعلنت Anthropic الجمعة الماضية عن شراكة مع Accenture، حيث تعمل Accenture كجهة تقييم خارجية لتقييم الامتثال الأمني لنماذج الذكاء الاصطناعي المتطورة الخاصة بها.