# A28: Дрейф данных как источник риска безопасности (Data drift exploited as security risk)

> Дрейф данных не всегда является атакой, но им может воспользоваться атакующий, либо он сам приводит к уязвимому поведению AI-системы. Модель продолжает работать, а её решения постепенно становятся опасными для бизнеса.

- Канонический HTML: [/threats/a28-data-drift-exploited-as-security-risk](https://ai-first.tech/threats/a28-data-drift-exploited-as-security-risk)
- Язык: русский
- Редакционный принцип: защитный контекст без вредоносных полезных нагрузок и инструкций обхода.

## Домен

Управление AI

## Как проявляется риск

Окружение меняется: появляются новые типы операций, каналы, поведение клиентов и противников. Модель при этом работает на устаревших закономерностях, и её точность падает без единого сбоя. Атакующий действует в новых условиях, где контроль слабее. Граница доверия нарушается во времени: организация продолжает полагаться на результаты проверки, проведённой в другой обстановке. Риск носит управленческий характер, поскольку возникает там, где у модели нет владельца, сроков перепроверки и связи с показателями бизнеса.

## Влияние на бизнес

- **Безопасность.** Снижается точность антифрода и классификации событий в SOC, угрозы проходят незамеченными.
- **Финансы.** Ошибки скоринга ведут к неверным решениям по клиентам и операциям.
- **Операции.** Аналитика цепочек поставок выдаёт рекомендации, не отвечающие текущей ситуации.

## Где риск наиболее вероятен

- Антифрод-модели в меняющихся каналах
- Классификация событий безопасности
- Скоринг клиентов и контрагентов
- Аналитика цепочек поставок

## Кому и что решать

- **ИТ-директор.** Назначить каждой рабочей модели владельца и срок обязательной перепроверки, предусмотреть резервный режим работы.
- **Директор по кибербезопасности.** Рассматривать падение качества защитных моделей как событие безопасности, а не как задачу аналитиков данных.
- **Владелец бизнес-процесса.** Связать показатели модели с показателями процесса, чтобы деградация была видна в привычной отчётности.

## Признаки для службы мониторинга

- Снижение точности модели на свежих данных
- Сдвиг распределения срабатываний и оповещений
- Рост числа ложных срабатываний или пропусков
- Изменение распределения входных признаков относительно обучающей выборки
- Ухудшение показателей процесса при формально исправной модели

## Меры защиты

- **Регламент переобучения моделей** (организационная). Определить, кто, по каким основаниям и с какими проверками принимает решение о переобучении.
- **Привязка к показателям бизнеса** (организационная). Закрепить за моделью показатели процесса, по которым владелец оценивает её пригодность.
- **Периодическая перепроверка** (техническая). Регулярно повторять оценку модели на актуальных данных и фиксировать результат.
- **Резервный режим работы** (техническая). Иметь правила или ручную процедуру на случай признания модели непригодной.
- **Контроль дрейфа данных** (мониторинг). Непрерывно сравнивать входные данные и результаты модели с эталонным периодом.

## Вопросы команде и поставщику

- Когда наши ключевые модели последний раз проверялись на актуальных данных?
- Кто отвечает за решение о переобучении или отключении модели?
- Что заменит модель, если она признана непригодной?
- Видим ли мы деградацию модели раньше, чем её увидят клиенты?

## Показатели контроля

- Доля рабочих моделей с настроенным контролем дрейфа
- Доля моделей, перепроверенных в установленный срок
- Динамика ложных срабатываний и пропусков по ключевым моделям

## Первые 30 дней

- Составить перечень рабочих моделей с датой последней проверки и владельцем
- Включить контроль дрейфа для моделей антифрода и безопасности
- Утвердить порядок перевода процесса в резервный режим

## Классы решений

- Наблюдаемость LLM
- Мониторинг моделей
- Управление AI (AI Governance)

## Сопоставления

- OWASP: LLM09
- MITRE: ATLAS: AI Governance
- NIST: NIST AI RMF: Govern

## Первоисточники

- [NIST: AI 100-2e2025: Adversarial Machine Learning](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) — Таксономия атак и mitigations для adversarial ML.
- [CISA: Joint Guidance on Deploying AI Systems Securely](https://www.cisa.gov/news-events/alerts/2024/04/15/joint-guidance-deploying-ai-systems-securely) — Безопасное внедрение AI-систем.
- [Google: Secure AI Framework (SAIF)](https://safety.google/intl/en/safety/saif/) — Secure-by-default AI, privacy и управление риском.

## Ограничение

Карточка описывает признаки и меры защиты. Она не является эксплуатационной инструкцией и не заменяет модель угроз конкретной организации.