В чём суть риска
Сотрудники пользуются публичными AI-инструментами без согласования с ИТ и службой безопасности и загружают туда рабочие материалы. Компания теряет контроль над интеллектуальной собственностью и не знает, какие сведения уже оказались во внешних сервисах.
Сотрудник хочет быстрее выполнить задачу и обращается к общедоступному чат-боту. Он вставляет в запрос фрагмент исходного кода, договор, список клиентов или отчёт об инциденте. Корпоративные средства защиты этот обмен не видят, поскольку сервис не входит в перечень разрешённых. Граница доверия нарушается действием самого сотрудника: внутренние материалы уходят стороннему поставщику без договора и без оценки рисков. Отозвать переданное невозможно.
Чем риск оборачивается для компании
Исходный код, договоры и клиентские списки оказываются во внешнем сервисе, и компания не управляет их дальнейшей судьбой.
Нарушаются внутренние политики и обязательства по защите информации перед клиентами.
Процессы начинают зависеть от инструментов, о которых ИТ-служба не знает и которые не поддерживает.
Где риск наиболее вероятен
Кому и что решать
Предложить сотрудникам утверждённый каталог AI-инструментов и корпоративный шлюз, чтобы легальный путь был удобнее обходного.
Обеспечить обнаружение обращений к несанкционированным AI-сервисам и контроль передаваемых туда данных.
Назвать задачи, для которых командам нужен AI, и добиться их покрытия разрешёнными средствами.
Что стоит наблюдать
Признаки сами по себе не доказывают инцидент. Их полезно сопоставлять с учётной записью, версией модели, решением политики, источником контекста и результатом вызова инструмента.
Какие меры создают границу
Меры работают в связке и не перекладывают ответственность на модель: важны границы полномочий, владелец, телеметрия и процедура безопасного отказа.
Утверждённый каталог AI-инструментов
Опубликовать перечень разрешённых сервисов и условий их применения. Сотрудники получают понятную альтернативу.
Обучение и порядок исключений
Разъяснять правила работы с AI и дать простую процедуру запроса нового инструмента.
Корпоративный шлюз AI
Направлять обращения к моделям через единую точку с учётом, политиками и журналированием.
Контроль утечек данных
Блокировать передачу чувствительных материалов в неразрешённые сервисы средствами DLP.
Обнаружение теневых AI-сервисов
Выявлять используемые AI-сервисы по данным веб-шлюза и брокера облачного доступа.
Вопросы, показатели и первые шаги
Вопросы команде и поставщику
- Какими AI-сервисами сотрудники пользуются фактически?
- Есть ли утверждённый каталог и знают ли о нём сотрудники?
- Какие данные уже могли быть переданы во внешние сервисы?
- Как быстро рассматривается заявка на новый инструмент?
Показатели контроля
- Число обнаруженных несанкционированных AI-сервисов
- Доля обращений к AI, проходящих через корпоративный шлюз
- Число заблокированных попыток передачи чувствительных данных
Первые 30 дней
- Провести обнаружение AI-сервисов по журналам сетевого доступа
- Утвердить и опубликовать первичный каталог разрешённых инструментов
- Включить правила контроля утечек для AI-сервисов
Как проверить в пилотном проекте
Проверить видимость реестра AI, владельцев, изменений политик и доказательность принятого решения.
Реестр связывает AI-сценарий, владельца, класс данных и развёрнутую модель или поставщика.
Изменение политики или конфигурации поставщика имеет проверку и событие аудита.
Риск и исключение могут быть показаны владельцу процесса в понятной форме.
Какие классы решений рассматривать
Ниже — редакционные профили поставщиков, связанные с доменом угрозы. Это не рейтинг и не подтверждение применимости: заявленные функции следует проверить в вашем пилоте по указанным критериям.
INFERA AI Security portfolio
InfEra Security · AI Security / DevSecOps
INFERA AI.SafeCode · INFERA AI.FirewallSTRAZH AI Control
STRAZH · Corporate AI Security
Shadow AI Audit & Control · LLM Firewall
AIGATE / DevScore / AIPitch
Aitalon · AI Gateway
AIGATE · DevScoreИсточники и проверка
Сначала — объяснение для русскоязычной команды. Затем — первоисточники, по которым можно проверить границы, методологию и применимость в конкретной архитектуре.