Что произошло
17 июля 2025 года CERT-UA сообщила о фишинговой рассылке от имени сотрудников министерств с архивами, содержащими исполняемые файлы на Python. Программы маскировались, в том числе под генератор изображений с AI. Вместо заранее зашитых команд программа отправляла языковой модели текстовые описания задач и выполняла полученные команды для сбора сведений о системе и копирования документов. Собранные данные отправлялись на серверы атакующих. CERT-UA со средней уверенностью приписала атаку группе APT28; в ноябре 2025 года GTIG подтвердила атрибуцию и описала семейство как PROMPTSTEAL.
Где нарушилась защита
Вредоносная логика переместилась из кода программы в запрос к внешнему легитимному AI-сервису. Обращения шли к общедоступному API Hugging Face, что затрудняет блокировку по сетевым признакам. Сигнатурный анализ хуже работает, когда конкретные команды формируются моделью во время выполнения.
Последствия
- Целевые атаки на органы власти Украины с целью кражи документов
- Первый публично подтверждённый случай вредоносного ПО, запрашивающего LLM в реальной операции (по оценке GTIG)
- Использование легитимного AI-сервиса как части инфраструктуры атаки
Реакция
CERT-UA опубликовала индикаторы компрометации. Google заблокировала связанные активы и аккаунты и усилила классификаторы против злоупотреблений.
Уроки для бизнеса
- Обращения к AI-сервисам с рабочих мест могут быть каналом управления вредоносным ПО
- Сигнатурная защита недостаточна против программ, генерирующих команды на лету
- Фишинг остаётся основным способом доставки даже для AI-усиленного ПО
Меры, которые предотвратили бы инцидент
- Контролировать и ограничивать обращения к внешним AI API с рабочих станций
- Применять поведенческое обнаружение на конечных точках
- Блокировать запуск исполняемых файлов из вложений и архивов
- Обучать сотрудников распознаванию писем от имени госорганов