# A24: Компрометация поставщика обучающих данных (Training data vendor compromise)

> Внешние наборы данных, подрядчики по разметке и поставщики данных могут стать каналом атаки на цепочку поставок. Итог для бизнеса — отравленная или юридически небезопасная модель и снижение её качества.

- Канонический HTML: [/threats/a24-training-data-vendor-compromise](https://ai-first.tech/threats/a24-training-data-vendor-compromise)
- Язык: русский
- Редакционный принцип: защитный контекст без вредоносных полезных нагрузок и инструкций обхода.

## Домен

Модель и цепочка поставки

## Как проявляется риск

Компания покупает набор данных или использует данные, собранные из внешних источников, без достаточной проверки поставщика. В обучение попадают некорректные или вредные записи, сведения с неясными правами либо чужие персональные данные. Модель усваивает их, и проблема проявляется уже в ответах и решениях. Граница доверия нарушается на входе в конвейер обучения: данные третьей стороны получают тот же статус, что и собственные проверенные. Исправление требует повторного обучения.

## Влияние на бизнес

- **Право и комплаенс.** Использование данных с неясной лицензией или чужой интеллектуальной собственностью создаёт претензии правообладателей и регуляторов.
- **Данные.** В обучающую выборку попадают персональные данные, которые компания не вправе обрабатывать.
- **Операции.** Качество модели снижается, решения на её основе становятся ненадёжными.
- **Безопасность.** Отравленные данные закладывают в модель нежелательное поведение.

## Где риск наиболее вероятен

- Дообучение на покупных наборах данных
- Разметка данных внешними подрядчиками
- Обучение на данных из открытых источников
- Модели скоринга на данных партнёров

## Кому и что решать

- **ИТ-директор.** Обеспечить учёт происхождения данных: для каждой модели должно быть известно, из каких источников она обучена.
- **Директор по кибербезопасности.** Включить поставщиков данных и разметки в контур проверки третьих сторон наравне с поставщиками ПО.
- **Владелец бизнес-процесса.** Закреплять в договорах с поставщиками данных требования к происхождению, правам и качеству.

## Признаки для службы мониторинга

- Происхождение набора данных неизвестно или не документировано
- Лицензионные условия неясны либо отсутствуют
- Разметка непоследовательна между партиями или исполнителями
- В данных встречаются подозрительные дубликаты
- После добавления нового источника у модели появляется неожиданная предвзятость

## Меры защиты

- **Проверка поставщиков данных** (организационная). Оценивать поставщика до закупки: источники данных, способ сбора, права и порядок разметки.
- **Договоры и реестр лицензий** (организационная). Фиксировать в договоре требования к данным и вести реестр лицензий по каждому набору.
- **Учёт происхождения данных** (техническая). Сохранять связь между источником, версией набора и моделью, чтобы быстро найти затронутые модели.
- **Валидация перед обучением** (техническая). Автоматически проверять формат, дубликаты, согласованность разметки и наличие чувствительных сведений.
- **Выборочный аудит партий** (мониторинг). Регулярно вручную проверять выборку из каждой поставки и сравнивать с прошлыми партиями.

## Вопросы команде и поставщику

- На чьих данных обучены наши ключевые модели?
- Есть ли у нас права на каждый использованный набор данных?
- Как проверяется качество работы подрядчиков по разметке?
- Что мы сделаем, если поставщик данных окажется скомпрометирован?

## Показатели контроля

- Доля наборов данных с документированным происхождением и лицензией
- Доля поставок, прошедших выборочный аудит до обучения
- Число моделей, для которых известен полный перечень источников

## Первые 30 дней

- Составить перечень внешних наборов данных и поставщиков разметки
- Проверить наличие лицензий и договорных требований по каждому
- Ввести обязательную валидацию и выборочную проверку новых поставок

## Классы решений

- Управление AI (AI Governance)
- Защита данных для AI
- Безопасная эксплуатация ML (MLSecOps)

## Сопоставления

- OWASP: LLM03, LLM04
- MITRE: ATLAS: ML Supply Chain
- NIST: NIST AI 100-2: Poisoning

## Первоисточники

- [OWASP: LLM03:2025 Supply Chain](https://genai.owasp.org/llmrisk/llm032025-supply-chain/) — Цепочка поставки моделей, данных и зависимостей.
- [OWASP: LLM04:2025 Data and Model Poisoning](https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/) — Отравление данных и моделей.
- [Cloud Security Alliance: AI Controls Matrix](https://cloudsecurityalliance.org/artifacts/ai-controls-matrix) — Контрольные домены AI security и governance.

## Ограничение

Карточка описывает признаки и меры защиты. Она не является эксплуатационной инструкцией и не заменяет модель угроз конкретной организации.