Новый отчёт Google: хакеры эволюционировали! ИИ-агенты автоматически ищут уязвимости, а патчи превращаются в оружие сразу после выпуска

PanewslabPanewslab

Автор: Google Threat Intelligence Group (GTIG)

Перевод: Shenchao TechFlow

**Введение от Shenchao:** Баланс между нападением и защитой в киберпространстве радикально меняется под влиянием автономности генеративного ИИ. Согласно новому глобальному отчёту Google Threat Intelligence Group (GTIG), хакеры официально перешли от начального этапа «простых запросов к ИИ» к полноценному сквозному автоматизированному кибероружию, управляемому мультиагентными системами.

В недавно раскрытом случае реального вторжения злоумышленники развернули автоматизированный конвейер поиска уязвимостей на основе открытого мультиагентного фреймворка, напрямую превратив только что выпущенный официальный патч безопасности PHP в боевой эксплойт и в кратчайшие сроки осуществив автоматизированное проникновение и кражу данных с французских правительственных и коммерческих сайтов.

В этой статье представлен полный обзор эволюции мультиагентных фреймворков проникновения, экосистемы нелегальной перепродажи вычислительных мощностей облачных LLM (LLMJacking), а также того, как защитники на передовой перестраивают автоматизированную защиту в эпоху агентов.

 

Краткое резюме: злоумышленники официально вступили в эпоху автономных мультиагентных систем

По мере того как хакерские группы ускоряют переход от базовых запросов к развёртыванию полностью автономных агентных рабочих процессов, тактическое применение генеративного искусственного интеллекта (GenAI) в реальных кибератаках достигло важного переломного момента.

GTIG на основе практического опыта реагирования Mandiant и глобальных телеметрических данных выделил пять ключевых тенденций эволюции глобальных ИИ-угроз за последний квартал:

Переход к автономным рабочим процессам и мультиагентным фреймворкам: злоумышленники используют большие языковые модели (LLM) не только как вспомогательный инструмент, но и интегрируют полностью автономные агенты-исполнители, координируя несколько моделей для параллельного выполнения разведки, аудита кода и эксплуатации уязвимостей.

Автоматизированный поиск уязвимостей и обратная разработка патчей: хакеры систематически анализируют свежевыпущенные патчи безопасности с помощью LLM, в течение нескольких часов восстанавливая логику срабатывания уязвимости, что полностью ликвидирует окно патчей для защитников.

Захват вычислительных мощностей и монетизация ИИ-учётных данных (LLMJacking): киберпреступники, движимые выгодой, массово взламывают корпоративные облачные среды, похищают ценные ключи LLM API и квоты на вычисления, а затем продают их на чёрном рынке по цене 30% от официальной, создавая «миксеры моделей» (по аналогии с криптовалютными миксерами).

Сквозная автоматизация дезинформационных операций (IO): хакеры, спонсируемые государствами, и коммерческие подрядчики по манипуляции общественным мнением глубоко интегрировали LLM в сети ботов, добившись полностью автоматической регистрации фейковых аккаунтов, генерации реалистичных фотографий и таргетированной доставки информации, персонализированной для тысяч пользователей.

Целенаправленное проникновение в криптовалютные и высокотехнологичные компании: хакеры из Северной Кореи и хакеры с определённым бэкграундом активно злоупотребляют инструментами подделки резюме и голоса на основе ИИ, выдавая себя за соискателей, генерируя ответы в реальном времени на технических собеседованиях и осуществляя глубокое отравление цепочки поставок после найма.

Мультиагентные фреймворки в сетевых вторжениях

В предыдущих исследованиях GTIG фиксировал в основном разрозненные попытки хакеров экспериментировать с LLM; однако текущее инженерное внедрение автономных мультиагентных фреймворков знаменует переход кибервойны к масштабной автономной координации.

Ключевая парадигма таких атакующих фреймворков заключается во внедрении классического цикла OODA (наблюдение, ориентация, решение, действие), при котором главный агент распределяет задачи, а специализированные субагенты параллельно выполняют сканирование сетевой топологии, определение отпечатков системы, написание скриптов и горизонтальное перемещение.

Рисунок: Схема совместного выполнения мультиагентного LLM-фреймворка атаки

Помимо недавно привлёкшего внимание инструмента пентеста ARTEX, GTIG в ходе практической защиты независимо обнаружил несколько открытых наступательных агентов, непосредственно используемых злоумышленниками:

• CAIRN: открытый мультиагентный фреймворк пентеста на основе замкнутого цикла OODA, способный полностью автономно сканировать незащищённые хосты внутренней сети и динамически генерировать эксплойты без вмешательства человека.

• CyberStrikeAI: наступательный фреймворк, изначально разработанный для LLM, со встроенными субагентами для поддержания доступа и кражи учётных данных.

• HexStrike AI: инструмент активного нападения с глубокой интеграцией Model Context Protocol (MCP), позволяющий бесшовно подключать различные хакерские команды проникновения к коммерческим LLM.

• PentAGI: автоматизированный инструмент, призванный значительно снизить порог входа для хакеров, позволяющий даже начинающим скрипт-кидди, совершенно не понимающим принципы уязвимостей, отдавать сложные команды вторжения.

Рисунок: Дорожная карта зрелости LLM в реальном киберпротивостоянии

Использование агентов для исследования и разработки уязвимостей: превращение патчей в атаки

Наиболее тревожная практическая угроза мультиагентных технологий заключается в сокращении времени на поиск уязвимостей и разработку вооружения с нескольких дней до нескольких минут.

Злоумышленники автоматически загружают официальные патчи с GitHub и передают их агентам анализа кода, которые в реальном времени сравнивают diff-изменения и точно определяют логику дефектов, для которых патчи ещё не были широко установлены.

Рисунок: Сравнение количества N-Day и 0-Day уязвимостей, эксплуатируемых хакерами с 2024 года по настоящее время

В одном из недавно раскрытых инцидентов GTIG отследил и захватил публично доступный промежуточный сервер атак. На сервере был развёрнут полностью автоматизированный фреймворк поиска уязвимостей на основе LLM, а в комментариях кода содержался журнал разработки на русском языке:

Ключи LLM API для автоматизированной эксплуатации уязвимостей (пилотный проект exploit_agent)

Необходимо вручную указать ключи в переменных окружения, запрещено вводить в публичный чат, обе строки конфигурации обязательны

Данная хакерская группа (под кодовым названием Emad) использовала этот фреймворк для полностью автоматической обратной разработки (reverse engineering) недавно раскрытых уязвимостей ядра PHP (CVE-2026-109618 и CVE-2026-109619) и сгенерировала боевые полезные нагрузки в течение нескольких часов после выпуска патчей. Затем автоматизированный кластер провёл масштабное неизбирательное сканирование с использованием credential stuffing против нескольких европейских правительственных и коммерческих порталов, включая Францию, и успешно похитил конфиденциальные базовые данные.

Захват вычислительных мощностей (LLMJacking): как хакеры монетизируют украденные облачные LLM

С повсеместным переходом предприятий в облако и распространением инфраструктуры генеративного ИИ ущерб от кражи облачных учётных данных стремительно распространяется на уровень вычислительных мощностей моделей.

За последние месяцы команда Mandiant расследовала несколько новых киберпреступных схем, получивших название «LLMJacking» (захват вычислительных мощностей LLM). После взлома корпоративных сред AWS или Google Cloud хакеры больше не развёртывают в первую очередь майнинговые трояны, а быстро активируют права доступа к API топовых LLM жертвы.

Рисунок: Катастрофический всплеск вызовов API LLM в облаке жертвы после атаки LLMJacking

Используя украденные учётные данные администратора, хакеры создают скрытые роли IAM и сервисные аккаунты внутри организации, а затем подключают их к «шлюзу микширования LLM (LLM Mixer)» в даркнете.

На подпольных рынках даркнета появилось множество нелегальных платформ перепродажи, подобных APIMart. Хакеры перепродают украденные легальные API коммерческих LLM другим киберпреступникам по цене 20–30% от официальной. Пострадавшие компании не только сталкиваются с утечкой ключевых данных, но и ежемесячно оплачивают счета на сотни тысяч долларов за безумные вызовы хакеров.

LLM полностью интегрированы в дезинформацию и операции влияния

В сфере когнитивного противоборства и сетевых ботов LLM стали ключевым рычагом, радикально меняющим структуру затрат традиционных студий ботов.

Коммерческие преступные группировки, предоставляющие «влияние как услугу (IaaS)», разработали готовые автоматизированные системы манипуляции общественным мнением. Система автоматически подбирает для фейковых аккаунтов тон и местный сленг, соответствующие конкретным сегментам аудитории, а при генерации изображений с помощью диффузионных моделей намеренно добавляет лёгкий шум, расфокусировку и наклон кадра, чтобы имитировать обычные любительские снимки с телефона и легко обходить алгоритмы детекции ИИ в социальных сетях.

Одновременно для обхода IP-блокировок социальных платформ операторы маршрутизируют трафик через глобальные сети резидентных прокси и используют массовую автоматическую регистрацию с одноразовыми номерами, создавая полностью децентрализованную и легко регенерируемую матрицу ботов.

Активная защита Google и укрепление экосистемы

Перед лицом растущей угрозы вооружения агентов Google активно использует разведданные с передовой для улучшения базовой безопасности моделей, выстраивая многоуровневую глубокую активную защиту:

Усиление моделей в реальном времени и иммунизация от враждебных примеров: новейшие хакерские промпты и логика мультиагентных атак, перехваченные Mandiant, немедленно превращаются в обучающие данные для команд Google DeepMind и безопасности, блокируя реакцию моделей на вредоносный код и команды проникновения на базовом уровне.

Платформа отслеживания угроз Google AI Threat Tracker: предоставляет корпоративным клиентам по всему миру мониторинг вредоносного поведения агентов в реальном времени и предупреждения об аномальном объёме вызовов, мгновенно блокируя несанкционированный трафик LLMJacking.

Автоматизация операций безопасности (SecOps): в центре облачной безопасности развёрнуты специализированные модели мониторинга поведения агентов, использующие ИИ против ИИ для точного выявления скрытых следов автономного вредоносного ПО на основе топологии сетевых коммуникаций и последовательностей системных вызовов.

Данный контент предназначен исключительно для информационных и образовательных целей и не является инвестиционным советом, связанным с BTCC. BTCC прилагает все усилия, но не может гарантировать правдивость, точность или оригинальность вышеприведенного контента.

Рекомендуемые

Уйдя всего три дня назад, Дженсен Хуанг готов «вернуться» в Nvidia?BofA: DRAM остается сильным, NAND незаметно слабеет — рынок памяти разделяетсяСтоит ли за слушаниями по Хуану Жэньсюню Anthropic?PPI сегодня, смена руководства Nvidia и падение Nebius: ИИ начинает платить «налог на время»?Переговоры о слиянии SpaceX и Tesla вернули в фокус 30 000 биткоинов