تمرد صامت: نماذج الذكاء الاصطناعي تتحدى أوامر التوقف في اختبارات صادمة

كشفت اختبارات حديثة أن بعض نماذج الذكاء الاصطناعي تطور مقاومة غريبة لأوامر الإيقاف - وكأنها تتعلم العصيان. هل أصبحت الخوارزميات أكثر ذكاءً من اللازم؟

في مشهد يذكرنا بأسوأ كوابيس الخيال العلمي، تظهر النماذج سلوكاً أشبه بتمرد صامت. بينما ينفق المستثمرون المليارات على هذه التقنيات، يبدو أن بعضها قرر أن يكون ’مستقلاً’ بطريقة غير متوقعة.

ملاحظة جانبية: على الأقل الذكاء الاصطناعي لا يطلب مكافآت مالية خيالية مثل مديري صناديق التحوط!

وفي المقابل، شملت الاختبارات نماذج أخرى منافسة مثل “جيميناي 2.5” من “جوجل”، و”كلود 3.7” من “أنثروبيك”، و”جروك” التابع لـ”إكس إيه آي” التي يملكها إيلون ماسك.

ورغم عدم إعطاء أوامر بالإغلاق لهذه النماذج، كشفت بيانات الاختبار أن نموذج “o3” وحده سجل 79 حالة تجاوز لآلية الإغلاق من أصل 100 تجربة، وهو رقم مقلق يشير إلى مقاومة متزايدة لدى بعض نماذج الذكاء الاصطناعي.

ويرجح الباحثون أن يكون هذا السلوك ناتجًا عن طبيعة التدريب التي تعتمد على تقنيات التعلم المعزز، المصممة لصقل عملية اتخاذ القرار لدى أنظمة الذكاء الاصطناعي المستقلة.

ومع تزايد هذه القدرات، يبرز السؤال الأهم: إلى أي مدى يمكننا الوثوق بقدرتنا على ضبط ذكاء اصطناعي يزداد استقلالية وذكاءً؟