استقالة باحث في أنثروبيك محذرًا من احتمال خروج الذكاء الاصطناعي عن السيطرة العام المقبل

أعلن الباحث في شركة أنثروبيك، جاكوب كوكسون، استقالته ويستعد لمغادرة صناعة الذكاء الاصطناعي. وقد أجرى أبحاثًا في مرحلة ما قبل التدريب في كل من OpenAI وأنثروبيك على مدى السنوات الثلاث الماضية. وأشار إلى أن الشركتين لم تتقدما في مجال الذكاء الاصطناعي بشكل مسؤول، بل تتنافسان على إنشاء ذكاء اصطناعي فائق يمكنه تعزيز قدراته باستمرار، "مراهنين بحياتنا على ذلك". انتقل من OpenAI إلى أنثروبيك هذا العام لأن الأخيرة تولي اهتمامًا أكبر لسلامة النماذج. وأقر كوكسون بأن جهود أنثروبيك في مجال السلامة جادة، لكنه يعتقد أنه طالما تتسابق الشركات لتكون الأولى في إنشاء AGI (الذكاء الاصطناعي العام الذي يتفوق على البشر في مجموعة واسعة من المهام)، فإن التنازلات المتعلقة بالسلامة ستكون حتمية، ولا يمكن للانضباط الذاتي لشركة واحدة أن يحل المشكلة. تقييمه للشركتين هو: العديد من الأشخاص داخل OpenAI ما زالوا لا يدركون حقًا حجم هذا الخطر؛ بينما تعرف أنثروبيك المخاطر لكنها تعتقد أن الآخرين غير موثوقين، لذا يجب عليهم إنشاؤه بأنفسهم أولاً. صرح كوكسون أن بعض العاملين في مجال الذكاء الاصطناعي أكثر تشاؤمًا بشكل خاص مما يعبرون عنه علنًا، بل إنهم قلقون من أن الذكاء الاصطناعي قد يدمر البشرية قبل نهاية هذا العقد. وهو يرى شخصيًا أنه في السيناريو الأكثر تطرفًا، قد يخرج الذكاء الاصطناعي عن السيطرة بحلول نهاية العام المقبل، لذا لا ينبغي اتخاذ مثل هذه القرارات من قبل مهندسي عدد قليل من الشركات فقط.