# A11: Журналы запросов к AI как хранилище чувствительных данных (Prompt logs as sensitive datasets)

> Запросы сотрудников к AI и ответы модели сохраняются в журналах и системах мониторинга. В них оказываются код, договоры, персональные данные и коммерческая тайна. Даже при защищённой модели эти журналы становятся отдельным каналом утечки.

- Канонический HTML: [/threats/a11-prompt-logs-as-sensitive-datasets](https://ai-first.tech/threats/a11-prompt-logs-as-sensitive-datasets)
- Язык: русский
- Редакционный принцип: защитный контекст без вредоносных полезных нагрузок и инструкций обхода.

## Домен

Защита данных и RAG

## Как проявляется риск

AI-сервис пишет запросы и ответы в телеметрию, системы мониторинга производительности и журналы поддержки. Эти данные часто уходят во внешний облачный сервис наблюдаемости или в систему бизнес-аналитики. Там нет шифрования, сроков хранения и разграничения доступа. Граница доверия нарушается в момент, когда содержимое диалога покидает защищённый контур под видом технических данных. Доступ к нему получают люди и системы, которым исходные документы никогда бы не выдали.

## Влияние на бизнес

- **Данные.** Коммерческая тайна, исходный код и внутренние решения накапливаются в одном месте без защиты.
- **Право и комплаенс.** Персональные данные хранятся без установленного срока и без контроля доступа.
- **Репутация.** Утечка переписки с AI раскрывает содержание внутренних обсуждений.

## Где риск наиболее вероятен

- Корпоративный чат-ассистент с полной записью диалогов
- AI-помощник разработчика
- Трассировка запросов во внешнем облачном сервисе
- Отладочный режим в промышленной среде

## Кому и что решать

- **ИТ-директор.** Определить, в какие системы попадают журналы AI-запросов, и закрепить за каждым хранилищем владельца и срок хранения.
- **Директор по кибербезопасности.** Распространить на телеметрию AI те же требования, что действуют для исходных данных: шифрование, разграничение доступа, контроль утечек.
- **Владелец бизнес-процесса.** Исходить из того, что всё введённое в AI-сервис сохраняется, и согласовать, какие данные допустимо в него передавать.

## Признаки для службы мониторинга

- В журналах обнаруживается большой объём персональных данных
- Доступ к журналам AI не ограничен по ролям
- Трассировки запросов можно выгрузить целиком
- Для журналов не задан срок хранения
- В промышленной среде включён отладочный режим

## Меры защиты

- **Маскирование данных в журналах** (техническая). Удалять или скрывать чувствительные фрагменты до записи в журнал.
- **Шифрование и разграничение доступа** (техническая). Шифровать журналы и выдавать доступ к диалогам по ролям.
- **Политика сроков хранения** (организационная). Установить срок хранения журналов AI и порядок их удаления.
- **Проверка на соответствие требованиям приватности** (организационная). Проводить оценку приватности при подключении каждой новой системы, получающей журналы AI.
- **Контроль утечек в телеметрии** (мониторинг). Применять средства предотвращения утечек (DLP) к потокам телеметрии и выявлять чувствительные данные в них.

## Вопросы команде и поставщику

- Где физически хранятся запросы сотрудников к AI и ответы модели?
- Кто имеет доступ к этим журналам и на каком основании?
- Через какой срок журналы удаляются?
- Передаются ли журналы внешним сервисам наблюдаемости и на каких условиях?

## Показатели контроля

- Доля хранилищ журналов AI с заданным сроком хранения
- Число срабатываний контроля утечек на потоках телеметрии
- Число учётных записей с доступом к полным текстам диалогов

## Первые 30 дней

- Составить перечень систем, куда записываются запросы и ответы AI
- Отключить отладочный режим в промышленной среде
- Ограничить доступ к журналам и задать срок их хранения

## Классы решений

- Наблюдаемость LLM
- Защита данных для AI
- Шлюз AI

## Сопоставления

- OWASP: LLM02, LLM08
- MITRE: ATLAS: Exfiltration
- NIST: NIST AI 100-2: Privacy

## Первоисточники

- [OWASP: LLM02:2025 Sensitive Information Disclosure](https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/) — Риски раскрытия чувствительной информации через LLM.
- [CISA: Joint Guidance on Deploying AI Systems Securely](https://www.cisa.gov/news-events/alerts/2024/04/15/joint-guidance-deploying-ai-systems-securely) — Безопасное внедрение AI-систем.

## Ограничение

Карточка описывает признаки и меры защиты. Она не является эксплуатационной инструкцией и не заменяет модель угроз конкретной организации.