Mythos от Anthropic взломала секретные системы США за часы: ИИ-безопасность под угрозой

Анонимный источник в правительстве США сообщил Associated Press, что одна из моделей искусственного интеллекта Anthropic — Mythos — выявила критические уязвимости в засекреченных государственных системах за считанные часы, что вызвало немедленную реакцию профильных ведомств. Этот случай демонстрирует, как передовые LLM-модели становятся мощнейшим инструментом для пентеста, способным обойти традиционные методы аудита безопасности. Возникает резонный вопрос: если ИИ так быстро находит «дыры» у государства, насколько уязвимы перед ним частные блокчейн-сети и DeFi-протоколы? Внедрение AI-агентов для непрерывного мониторинга безопасности и автоматического исправления уязвимостей становится не просто трендом, а насущной необходимостью, особенно в свете потенциального падения ключевых криптовалют на 10% на фоне регуляторной неопределенности.

Как проходило тестирование

По словам представителя властей, тестирование велось в рамках инициативы Anthropic под названием Project Glasswing. Она объединила технологических гигантов и другие компании в надежде защитить критически важное мировое программное обеспечение от «серьезных» последствий, которые модель Mythos может нести для общественной безопасности, национальной безопасности и экономики.

О тестировании кратко упомянул сенатор-демократ Марк Уорнер из Вирджинии на слушаниях 11 июня перед сенатским комитетом по банковскому делу, жилищным вопросам и городскому развитию. По его словам, инструмент «проник» почти во все секретные системы страны не за недели, а за часы.

Эту информацию Уорнер приписал главе Агентства национальной безопасности и Киберкомандования США генералу Джошуа Радду. Так заявление получило подтверждение со стороны высокопоставленного военного источника.

В ответ на запрос Агентство Национальной Безопасности (АНБ) отказалось от комментариев в электронном письме. Представитель Anthropic также воздержался от комментариев.

Растущая напряженность с администрацией

Несмотря на недавнее сотрудничество Anthropic и ведомств США по поиску уязвимостей, напряженность между калифорнийской компанией и администрацией Дональда Трампа нарастает. Anthropic выражала обеспокоенность тем, как военные США будут использовать ее ИИ, а администрация ограничила применение некоторых моделей компании.

В начале месяца администрация выпустила директиву, обязывающую Anthropic не допускать использования ее новейших моделей — Fable 5 и Mythos 5 — иностранными гражданами. 

Anthropic выпустила Fable в широкий доступ ранее в этом месяце. Модель представляет собой ограниченную версию более продвинутой Mythos, доступ к которой компания строго ограничила из-за опасений в сфере кибербезопасности. Директива вышла через десять дней после того, как президент США Дональд Трамп подписал указ о создании механизма проверки рисков национальной безопасности от самых продвинутых ИИ-систем сроком до месяца перед их публичным выпуском.

Anthropic сообщила, что отключила модели для всех своих клиентов, чтобы выполнить директиву администрации. При этом компания заявила, что не считает предпринятые властями действия оправданными.

Группа руководителей в сфере кибербезопасности также обратилась к администрации Трампа с просьбой отменить директиву, заявив, что этот шаг может помочь противникам США больше, чем навредить им. Более 100 экспертов и руководителей из компаний, включая Adobe и Nvidia, сообщили властям в письме, что модели Mythos хороши в поиске уязвимостей в ПО и превращении их в работающие эксплойты, но не уникальны в этих задачах. Многие отметили, что регулярно используют другие базовые модели и модели с открытым исходным кодом для аудитов безопасности, и назвали «опасным лишать страну лучших средств киберзащиты без веских причин в момент, когда противники США быстро наращивают возможности».

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!