Anthropic сообщила, что Claude использовался в кибератаках и слежке

В отчете о киберугрозах, опубликованном в четверг, Anthropic заявила, что российские и китайские пользователи используют ее ИИ-модель Claude для автоматизации кибератак. Среди них российский оператор под псевдонимом «JackPoterz» автоматизировал большую часть цепочки атаки с помощью настроенного рабочего процесса на основе ИИ, нацелившись на более чем 20 организаций, включая государственные ведомства и разведывательные службы, а также посольства и дипломатические миссии в Украине и нескольких европейских странах. Китайские пользователи используют Claude в качестве инженерного и координационного уровня для исследования уязвимостей: один рабочий процесс выявил более десятка потенциальных уязвимостей нулевого дня в прошивках сетевых устройств в течение месяца. Anthropic отметила, что ИИ меняет экономику кибератак, позволяя одному оператору завершить вторжение за два-три часа и обрабатывать десятки жертв параллельно. Кроме того, в отчете revealed, что предполагаемый независимый консультант, базирующийся в Бамако и сотрудничающий с национальным разведывательным агентством Мали, использовал Claude в качестве основной инженерной силы для создания крупномасштабной системы внутреннего наблюдения, охватывающей примерно 25 миллионов SIM-карт всех трех мобильных операторов страны. Эта система развернута локально и работает с использованием локальных моделей, а поддержку в области проектирования и разработки программного обеспечения обеспечивает Claude, что позволяет создавать разведывательные профили по телефонным номерам без необходимости получения судебных ордеров.