# A12: Утечка данных через теневое использование AI (Shadow AI data leakage)

> Сотрудники пользуются публичными AI-инструментами без согласования с ИТ и службой безопасности и загружают туда рабочие материалы. Компания теряет контроль над интеллектуальной собственностью и не знает, какие сведения уже оказались во внешних сервисах.

- Канонический HTML: [/threats/a12-shadow-ai-data-leakage](https://ai-first.tech/threats/a12-shadow-ai-data-leakage)
- Язык: русский
- Редакционный принцип: защитный контекст без вредоносных полезных нагрузок и инструкций обхода.

## Домен

Управление AI

## Как проявляется риск

Сотрудник хочет быстрее выполнить задачу и обращается к общедоступному чат-боту. Он вставляет в запрос фрагмент исходного кода, договор, список клиентов или отчёт об инциденте. Корпоративные средства защиты этот обмен не видят, поскольку сервис не входит в перечень разрешённых. Граница доверия нарушается действием самого сотрудника: внутренние материалы уходят стороннему поставщику без договора и без оценки рисков. Отозвать переданное невозможно.

## Влияние на бизнес

- **Данные.** Исходный код, договоры и клиентские списки оказываются во внешнем сервисе, и компания не управляет их дальнейшей судьбой.
- **Право и комплаенс.** Нарушаются внутренние политики и обязательства по защите информации перед клиентами.
- **Операции.** Процессы начинают зависеть от инструментов, о которых ИТ-служба не знает и которые не поддерживает.

## Где риск наиболее вероятен

- Разработчики, работающие с исходным кодом
- Юристы и менеджеры по продажам с договорами
- Подразделения, ведущие клиентские базы
- Команды, готовящие отчёты об инцидентах

## Кому и что решать

- **ИТ-директор.** Предложить сотрудникам утверждённый каталог AI-инструментов и корпоративный шлюз, чтобы легальный путь был удобнее обходного.
- **Директор по кибербезопасности.** Обеспечить обнаружение обращений к несанкционированным AI-сервисам и контроль передаваемых туда данных.
- **Владелец бизнес-процесса.** Назвать задачи, для которых командам нужен AI, и добиться их покрытия разрешёнными средствами.

## Признаки для службы мониторинга

- События обращения к AI-сервисам в журналах DNS, веб-шлюза и брокера облачного доступа
- Всплеск числа запросов к публичным AI-сервисам
- Загрузка файлов на сайты AI-инструментов
- Отсутствие корпоративного шлюза AI при заметном спросе сотрудников
- Обращения к AI-сервисам, не входящим в утверждённый каталог

## Меры защиты

- **Утверждённый каталог AI-инструментов** (организационная). Опубликовать перечень разрешённых сервисов и условий их применения. Сотрудники получают понятную альтернативу.
- **Обучение и порядок исключений** (организационная). Разъяснять правила работы с AI и дать простую процедуру запроса нового инструмента.
- **Корпоративный шлюз AI** (техническая). Направлять обращения к моделям через единую точку с учётом, политиками и журналированием.
- **Контроль утечек данных** (техническая). Блокировать передачу чувствительных материалов в неразрешённые сервисы средствами DLP.
- **Обнаружение теневых AI-сервисов** (мониторинг). Выявлять используемые AI-сервисы по данным веб-шлюза и брокера облачного доступа.

## Вопросы команде и поставщику

- Какими AI-сервисами сотрудники пользуются фактически?
- Есть ли утверждённый каталог и знают ли о нём сотрудники?
- Какие данные уже могли быть переданы во внешние сервисы?
- Как быстро рассматривается заявка на новый инструмент?

## Показатели контроля

- Число обнаруженных несанкционированных AI-сервисов
- Доля обращений к AI, проходящих через корпоративный шлюз
- Число заблокированных попыток передачи чувствительных данных

## Первые 30 дней

- Провести обнаружение AI-сервисов по журналам сетевого доступа
- Утвердить и опубликовать первичный каталог разрешённых инструментов
- Включить правила контроля утечек для AI-сервисов

## Классы решений

- Аудит теневого AI
- Шлюз AI
- Предотвращение утечек данных (DLP) для AI

## Сопоставления

- OWASP: LLM09
- MITRE: ATLAS: AI Governance
- NIST: NIST AI RMF: Govern

## Первоисточники

- [OWASP: LLM02:2025 Sensitive Information Disclosure](https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/) — Риски раскрытия чувствительной информации через LLM.
- [CISA: Joint Guidance on Deploying AI Systems Securely](https://www.cisa.gov/news-events/alerts/2024/04/15/joint-guidance-deploying-ai-systems-securely) — Безопасное внедрение AI-систем.
- [ITOREX: ITOREX vendor portfolio](https://itorex.ru/vendors) — Портфель AI Security, DevSecOps и AI Infrastructure.

## Ограничение

Карточка описывает признаки и меры защиты. Она не является эксплуатационной инструкцией и не заменяет модель угроз конкретной организации.