The New York Post ставит под сомнение тесные связи между METR и Anthropic

Генеральный директор Anthropic Дарио Амодеи недавно выступил за то, чтобы сторонние оценочные организации, такие как METR, имели долгосрочный доступ к передовым ИИ-компаниям, получая почти уровень сотрудников для проверки мер безопасности, инцидентов и процессов обучения моделей. Однако расследование The New York Post показало, что отношения между METR и кругом по безопасности ИИ в Anthropic гораздо ближе, чем типичный внешний аудит. METR изначально называлась ARC Evals и была инкубирована в Alignment Research Center, основанном Полом Кристиано. Кристиано ранее работал с Амодеи в OpenAI, и, по сообщению The New York Post, они также были соседями по комнате; позже он стал одним из первых пяти попечителей Anthropic Long-Term Benefit Trust. Нынешний технический сотрудник METR Аджея Котра — жена Кристиано и ранее управляла финансированием безопасности ИИ в Coefficient Giving. Когда METR проводила оценку Anthropic, OpenAI, Google и Meta в этом году, не было применимой политики урегулирования конфликта интересов, а также не проводилась формальная процедура отвода. METR раскрыла, что среди сотрудников и партнёров, непосредственно участвовавших в проектах, как минимум шесть человек имели тесные личные связи с сотрудниками ИИ-компаний. METR заявила, что не принимает финансирование от передовых ИИ-компаний и их сотрудников и не взимает плату за оценку рисков; однако эти компании бесплатно предоставляют большое количество токенов моделей.