В чём суть риска
Запросы сотрудников к AI и ответы модели сохраняются в журналах и системах мониторинга. В них оказываются код, договоры, персональные данные и коммерческая тайна. Даже при защищённой модели эти журналы становятся отдельным каналом утечки.
AI-сервис пишет запросы и ответы в телеметрию, системы мониторинга производительности и журналы поддержки. Эти данные часто уходят во внешний облачный сервис наблюдаемости или в систему бизнес-аналитики. Там нет шифрования, сроков хранения и разграничения доступа. Граница доверия нарушается в момент, когда содержимое диалога покидает защищённый контур под видом технических данных. Доступ к нему получают люди и системы, которым исходные документы никогда бы не выдали.
Чем риск оборачивается для компании
Коммерческая тайна, исходный код и внутренние решения накапливаются в одном месте без защиты.
Персональные данные хранятся без установленного срока и без контроля доступа.
Утечка переписки с AI раскрывает содержание внутренних обсуждений.
Где риск наиболее вероятен
Кому и что решать
Определить, в какие системы попадают журналы AI-запросов, и закрепить за каждым хранилищем владельца и срок хранения.
Распространить на телеметрию AI те же требования, что действуют для исходных данных: шифрование, разграничение доступа, контроль утечек.
Исходить из того, что всё введённое в AI-сервис сохраняется, и согласовать, какие данные допустимо в него передавать.
Что стоит наблюдать
Признаки сами по себе не доказывают инцидент. Их полезно сопоставлять с учётной записью, версией модели, решением политики, источником контекста и результатом вызова инструмента.
Какие меры создают границу
Меры работают в связке и не перекладывают ответственность на модель: важны границы полномочий, владелец, телеметрия и процедура безопасного отказа.
Маскирование данных в журналах
Удалять или скрывать чувствительные фрагменты до записи в журнал.
Шифрование и разграничение доступа
Шифровать журналы и выдавать доступ к диалогам по ролям.
Политика сроков хранения
Установить срок хранения журналов AI и порядок их удаления.
Проверка на соответствие требованиям приватности
Проводить оценку приватности при подключении каждой новой системы, получающей журналы AI.
Контроль утечек в телеметрии
Применять средства предотвращения утечек (DLP) к потокам телеметрии и выявлять чувствительные данные в них.
Вопросы, показатели и первые шаги
Вопросы команде и поставщику
- Где физически хранятся запросы сотрудников к AI и ответы модели?
- Кто имеет доступ к этим журналам и на каком основании?
- Через какой срок журналы удаляются?
- Передаются ли журналы внешним сервисам наблюдаемости и на каких условиях?
Показатели контроля
- Доля хранилищ журналов AI с заданным сроком хранения
- Число срабатываний контроля утечек на потоках телеметрии
- Число учётных записей с доступом к полным текстам диалогов
Первые 30 дней
- Составить перечень систем, куда записываются запросы и ответы AI
- Отключить отладочный режим в промышленной среде
- Ограничить доступ к журналам и задать срок их хранения
Как проверить в пилотном проекте
Подтвердить, что поиск контекста учитывает права, классификацию и происхождение документов.
Права доступа к документу проверяются до включения в найденный контекст.
Политика маскирования и предотвращения утечек данных проверяется на согласованном наборе чувствительных данных.
Трассировка хранит атрибуцию источника и решение доступа без избыточного раскрытия содержимого.
Какие классы решений рассматривать
Ниже — редакционные профили поставщиков, связанные с доменом угрозы. Это не рейтинг и не подтверждение применимости: заявленные функции следует проверить в вашем пилоте по указанным критериям.
INFERA AI Security portfolio
InfEra Security · AI Security / DevSecOps
INFERA AI.SafeCode · INFERA AI.FirewallSTRAZH AI Control
STRAZH · Corporate AI Security
Shadow AI Audit & Control · LLM Firewall
AI-Vault
FoxOps · Model Registry / AI-Vault
AI-Vault and controlled artifact deliveryИсточники и проверка
Сначала — объяснение для русскоязычной команды. Затем — первоисточники, по которым можно проверить границы, методологию и применимость в конкретной архитектуре.