Всего через четыре месяца после прихода команда Доун Сун, как сообщается, рассталась с Meta из-за несовместимости стилей работы

Оригинальное название: Meta расстается с Virtue AI

Оригинальный автор: Эшли Голд

Оригинальная компиляция: Machine Heart

Набор в июне, а слухи о расставании в октябре?

Команда Virtue AI под руководством профессора компьютерных наук Калифорнийского университета в Беркли Доун Сун, как сообщается, столкнулась с проблемами в сотрудничестве с Meta, сославшись на «несовместимость стилей работы».

Доун Сун высоко ценится как в академических, так и в промышленных кругах, признана одним из самых влиятельных ученых в области компьютерной безопасности и безопасности ИИ. Ее статья 2005 года о «динамическом анализе заражённых данных» считается классикой в области компьютерной безопасности.

Согласно рейтингам AMiner, она является самым цитируемым ученым в мире в области компьютерной безопасности. Ее лаборатория в Беркли известна как кузница лучших специалистов по компьютерной безопасности.

Помимо должности профессора, Доун Сун также является основателем Oasis Labs и Virtue AI. Согласно официальному сайту Virtue AI, их работа включает имитацию атак, выявление уязвимостей в ИИ и обеспечение защиты во время работы системы, внедрение правил безопасности и управления. Проще говоря, они помогают ИИ проходить «проверки безопасности» и устанавливают «ограждения» во время работы.

В июне этого года Доун Сун объявила в социальных сетях, что присоединилась к лаборатории суперинтеллекта Meta. В то время СМИ сообщали, что два других основателя Virtue AI, Бо Ли и Санми Койеджо, а также другие члены команды также присоединились. Этот набор был способом Meta привлечь независимую команду, а не приобрести всю компанию.

Для команды специалистов Virtue AI переход в Meta был привлекателен, поскольку они уже проводили тестирование безопасности ИИ, ред-тиминг и защиту после запуска для клиентов, но как стартап имели ограниченные ресурсы. Присоединившись к Meta, они могли бы напрямую применять эти возможности к продуктам, используемым миллиардами пользователей, превратившись из «инструментов безопасности» в базовую инфраструктуру безопасности для крупной платформы.

В то же время Meta нуждалась в них, поскольку активно продвигает агентов ИИ и суперинтеллект. Со временем растут опасения по поводу непредсказуемого поведения моделей, утечек данных и введения в заблуждение вредоносными инструкциями. Поэтому им нужно было быстро найти первоклассную команду, которая разбирается в исследованиях и имеет практический опыт внедрения безопасности, чтобы обеспечить безопасность, надежность и управление ИИ.

Все это казалось очень разумным, но в недавней статье зарубежное СМИ Semafor сообщило, что «представитель Meta Энди Стоун сообщил Semafor, что компания увольняет группу сотрудников, нанятых из стартапа по безопасности ИИ Virtue AI, которые проработали всего четыре месяца с момента прихода в июне».

Почему все обострилось так быстро? Meta объяснила, что возникла «несовместимость стилей работы» и сотрудничество развивалось не так, как ожидалось. В то же время Meta заявила, что лаборатория суперинтеллекта продолжит уделять внимание безопасности ИИ, выравниванию и передовым рискам. Конечно, это лишь версия компании, а конкретные разногласия не разглашаются.

Кроме того, в отчете не подтверждалось, полностью ли ушли Доун Сун и другие, и на момент публикации команда не ответила.

Однако реальный вопрос, оставленный этим изменением в сотрудничестве, все еще заслуживает обсуждения, и его суть такова: как дать возможность выдающимся исследователям оказывать влияние внутри организации после их привлечения?

Исследование, опубликованное MIT Sloan в 2019 году, показало, что в течение первого года после приобретения компании 33% приобретенных сотрудников решили уйти, тогда как для обычных наймов с аналогичными навыками и опытом работы этот показатель составил 12%. Хотя со временем эти проценты выравниваются, в течение трехлетнего окна, которое они изучали, приобретенные сотрудники уходили на 15% чаще, чем новые сотрудники.

В статье предполагается, что высокая текучесть среди приобретенных сотрудников в первую очередь связана с «несоответствием организационной культуре»: эти люди изначально присоединялись к стартапам ради предпринимательской атмосферы, автономии, гибкости и готовности рисковать, но после поглощения крупной компанией они часто сталкиваются с более бюрократическими процессами и формальной корпоративной культурой, что напрямую противоречит их предпочтениям. Более того, типичные приобретенные сотрудники обычно не имеют выбора покупателя и не могут участвовать в организационных изменениях после поглощения, что усугубляет их дискомфорт. В сочетании с их склонностью начинать с нуля они с большей вероятностью уходят, даже создавая конкурирующие компании.

Возвращаясь к инциденту с Meta, объяснение «несовместимости стилей работы» явно неубедительно для многих. Что касается глубоких разногласий между двумя сторонами, нам придется дождаться объяснений от Virtue AI.