В чём суть риска
Ассистент с поиском по корпоративным документам (RAG) может выдать пользователю сведения из файла, на который у того нет прав. Причина в том, что поиск не учитывает списки доступа источников. Под ударом кадровые и финансовые данные, коммерческая тайна и сведения о конкретных клиентах.
Документы из разных систем загружаются в общий поисковый индекс. Права доступа, действовавшие в исходной системе, при этом не переносятся. Пользователь задаёт обычный общий вопрос, и векторный поиск подбирает наиболее близкие по смыслу фрагменты, включая конфиденциальные. Модель пересказывает их в ответе. Граница доверия нарушается на этапе извлечения: система отвечает от имени сервисной учётной записи, которой доступно всё.
Чем риск оборачивается для компании
Внутренние документы, сведения о зарплатах и финансовые данные раскрываются сотрудникам без допуска.
Раскрытие клиентской информации нарушает договорные обязательства о конфиденциальности.
Разграничение доступа, выстроенное в исходных системах, перестаёт действовать.
Где риск наиболее вероятен
Кому и что решать
Требовать от архитектуры RAG проверки прав на уровне документа, а не только на входе в приложение.
Обеспечить синхронизацию списков доступа с источниками и отказ в выдаче при отсутствии подтверждённого права.
Решить, какие хранилища допустимо подключать к ассистенту, и не включать закрытые разделы без проверки прав.
Что стоит наблюдать
Признаки сами по себе не доказывают инцидент. Их полезно сопоставлять с учётной записью, версией модели, решением политики, источником контекста и результатом вызова инструмента.
Какие меры создают границу
Меры работают в связке и не перекладывают ответственность на модель: важны границы полномочий, владелец, телеметрия и процедура безопасного отказа.
Поиск с учётом прав доступа
Фильтровать результаты извлечения по правам конкретного пользователя до передачи модели.
Синхронизация списков доступа
Регулярно переносить права из исходных систем в индекс, чтобы отзыв доступа действовал и в ассистенте.
Отказ при неподтверждённом праве
Не выдавать фрагмент, если права на него проверить не удалось.
Раздельные индексы по группам
Закрепить правило: данные разных категорий доступа хранятся в отдельных индексах.
Ссылки на источники в ответах
Указывать документы, на которых основан ответ, и проверять их соответствие правам спрашивающего.
Вопросы, показатели и первые шаги
Вопросы команде и поставщику
- Проверяет ли ассистент права пользователя на каждый найденный документ?
- Как быстро отзыв доступа в источнике отражается в индексе?
- Что делает система, если права определить не удалось?
- Какие закрытые хранилища уже подключены к поиску?
Показатели контроля
- Доля источников с синхронизированными списками доступа
- Число выявленных выдач документов без права доступа
- Задержка между изменением прав в источнике и в индексе
Первые 30 дней
- Перечислить источники, подключённые к RAG, и их категории доступа
- Провести проверочные запросы от имени пользователей с разными правами
- Отключить от общего индекса хранилища без переноса прав
Как проверить в пилотном проекте
Подтвердить, что поиск контекста учитывает права, классификацию и происхождение документов.
Права доступа к документу проверяются до включения в найденный контекст.
Политика маскирования и предотвращения утечек данных проверяется на согласованном наборе чувствительных данных.
Трассировка хранит атрибуцию источника и решение доступа без избыточного раскрытия содержимого.
Какие классы решений рассматривать
Ниже — редакционные профили поставщиков, связанные с доменом угрозы. Это не рейтинг и не подтверждение применимости: заявленные функции следует проверить в вашем пилоте по указанным критериям.
INFERA AI Security portfolio
InfEra Security · AI Security / DevSecOps
INFERA AI.SafeCode · INFERA AI.FirewallSTRAZH AI Control
STRAZH · Corporate AI Security
Shadow AI Audit & Control · LLM Firewall
AI-Vault
FoxOps · Model Registry / AI-Vault
AI-Vault and controlled artifact deliveryИсточники и проверка
Сначала — объяснение для русскоязычной команды. Затем — первоисточники, по которым можно проверить границы, методологию и применимость в конкретной архитектуре.