# A48: Нарушение требований к месту обработки данных и моделей (AI model/data residency violation)

> AI-сервис может передавать данные во внешние регионы или сторонним провайдерам. Это создаёт регуляторный и договорный риск: нарушаются требования локализации, условия клиентских договоров и правила обработки персональных данных.

- Канонический HTML: [/threats/a48-ai-model-data-residency-violation](https://ai-first.tech/threats/a48-ai-model-data-residency-violation)
- Язык: русский
- Редакционный принцип: защитный контекст без вредоносных полезных нагрузок и инструкций обхода.

## Домен

Защита данных и RAG

## Как проявляется риск

Корпоративное приложение направляет запросы пользователей на зарубежный API модели. Владелец процесса не знает, где фактически обрабатываются данные. Вместе с запросом за пределы разрешённой территории уходят персональные и клиентские сведения. Граница доверия нарушается на уровне маршрутизации: выбор модели сделан технически, без правовой оценки. Нарушение обнаруживается при проверке или по запросу клиента.

## Влияние на бизнес

- **Право и комплаенс.** Нарушение требований локализации, правил обработки персональных данных и отраслевых норм.
- **Данные.** Сведения оказываются у обработчиков, местоположение которых не определено.
- **Репутация.** Нарушение условий клиентских договоров подрывает доверие заказчиков.

## Где риск наиболее вероятен

- Приложения с обращением к зарубежным API моделей
- Обработка персональных данных AI-ассистентом
- Автоматический выбор модели без учёта региона
- Облачные AI-сервисы с неясной географией обработки

## Кому и что решать

- **ИТ-директор.** Утвердить допустимые маршруты обращения к моделям и обеспечить развёртывание в требуемом регионе.
- **Директор по кибербезопасности.** Обеспечить классификацию данных и контроль их передачи внешним моделям.
- **Владелец бизнес-процесса.** Получить правовую оценку до запуска AI-сценария, затрагивающего персональные или клиентские данные.

## Признаки для службы мониторинга

- Исходящий трафик из облачной среды направляется в непредусмотренные регионы
- Приложения обращаются к внешним моделям, не входящим в утверждённый перечень
- Местоположение обработчиков данных у поставщика не определено однозначно
- В настройках сервиса отсутствуют региональные ограничения
- В запросах к внешним моделям встречаются данные ограниченных категорий

## Меры защиты

- **Правовая оценка AI-сценариев** (организационная). Юристы проверяют место обработки и условия договоров до запуска.
- **Утверждённая маршрутизация к моделям** (техническая). Разрешать обращения только к согласованным моделям и регионам через единую точку контроля.
- **Классификация данных** (техническая). Размечать данные по категориям, чтобы правила передачи применялись автоматически.
- **Региональное развёртывание** (техническая). Размещать модели и хранилища в регионе, который допускают регулятор и договоры.
- **Контроль утечек во внешние модели** (мониторинг). Отслеживать средствами DLP передачу ограниченных категорий данных и исходящий трафик к внешним API.

## Вопросы команде и поставщику

- В каких странах обрабатываются запросы наших AI-сервисов?
- Какие категории данных уходят во внешние модели?
- Кто согласует подключение новой модели с точки зрения права?
- Какие клиентские договоры ограничивают место обработки данных?

## Показатели контроля

- Доля обращений к моделям, идущих по утверждённым маршрутам
- Число обращений к внешним моделям из неразрешённых регионов
- Доля AI-сценариев, прошедших правовую оценку

## Первые 30 дней

- Составить карту обращений приложений к внешним моделям с указанием регионов
- Запросить у поставщиков перечень мест обработки данных
- Ограничить маршруты утверждённым перечнем моделей и регионов

## Классы решений

- Шлюз AI
- Защита данных для AI
- Управление AI (AI Governance)

## Сопоставления

- OWASP: LLM02, LLM08
- MITRE: ATLAS: Exfiltration
- NIST: NIST AI 100-2: Privacy

## Первоисточники

- [OWASP: LLM02:2025 Sensitive Information Disclosure](https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/) — Риски раскрытия чувствительной информации через LLM.
- [CISA: Joint Guidance on Deploying AI Systems Securely](https://www.cisa.gov/news-events/alerts/2024/04/15/joint-guidance-deploying-ai-systems-securely) — Безопасное внедрение AI-систем.
- [European Commission: EU AI Act regulatory framework](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai) — Риск-ориентированный регуляторный фреймворк.

## Ограничение

Карточка описывает признаки и меры защиты. Она не является эксплуатационной инструкцией и не заменяет модель угроз конкретной организации.