OpenAI и Anthropic обсуждали взаимное тестирование больших моделей

Согласно сообщениям СМИ со ссылкой на информированные источники, Anthropic и OpenAI рассматривали возможность подписания юридически обязывающего соглашения о стресс-тестировании больших моделей друг друга. В начале этого года обе компании и их юридические команды обсуждали этот план, который позволил бы конкурентам проводить углублённое тестирование последних доступных моделей друг друга для выявления потенциальных рисков или уязвимостей безопасности. Такое тестирование применялось бы только к коммерчески доступным моделям, и обе стороны договорились не сохранять данные друг друга. В отчёте не уточняется, достигли ли стороны в конечном итоге такого соглашения. В последнее время идея внедрения той или иной формы взаимной проверки среди ведущих лабораторий ИИ привлекает внимание. Генеральный директор SpaceX Илон Маск на прошлой неделе предложил, чтобы несколько ведущих компаний по разработке больших моделей в США и некоторые китайские ИИ-компании разрешили конкурентам проводить перекрёстное тестирование. Маск заявил: «У всех ИИ-компаний есть набор инструментов для тестирования, и если каждая компания будет проводить свои тесты с использованием инструментов другой компании, это может быть лучшим, что они могут сделать для обеспечения собственной безопасности». Ранее в этом месяце исследователь Anthropic Джейкоб Коксон объявил об уходе и предупредил ведущие компании в области искусственного интеллекта об ускорении разработки без надлежащих мер защиты. Впоследствии генеральный директор Anthropic Дарио Амодеи призвал отрасль замедлить разработку ИИ и внедрить механизмы сторонней оценки. Anthropic объявила в прошлую пятницу о партнёрстве с Accenture, в рамках которого Accenture будет выступать в качестве стороннего оценщика для проверки соответствия её передовых ИИ-моделей требованиям безопасности.