В чём суть риска
Интерфейс модели без строгой аутентификации и авторизации открывает посторонним данные, дорогие вычисления и бизнес-логику. Компания оплачивает чужое использование сервиса и рискует содержимым контекста модели и подключёнными инструментами.
Интерфейс вывода модели или административный API оказывается доступен извне с настройками по умолчанию. Другой вариант — ключ доступа утёк и используется посторонним. Граница доверия нарушается на входе: система не различает законного потребителя и чужого. Получив доступ, посторонний расходует вычислительные ресурсы, читает данные из контекста модели и обращается к связанным инструментам. Проблему усугубляет отсутствие полного учёта опубликованных интерфейсов.
Чем риск оборачивается для компании
Кража сервиса и злоупотребление вычислениями приводят к незапланированным расходам.
Сведения из контекста модели становятся доступны посторонним.
Через открытый интерфейс возможна компрометация подключённых инструментов и систем.
Чужая нагрузка отнимает ресурсы у рабочих процессов.
Где риск наиболее вероятен
Кому и что решать
Обеспечить единый реестр интерфейсов моделей и публикацию только через управляемый шлюз.
Требовать строгую аутентификацию, ротацию ключей и сегментацию сети для каждого интерфейса модели.
Знать, кто и на каких условиях потребляет AI-сервис процесса, и контролировать расход бюджета.
Что стоит наблюдать
Признаки сами по себе не доказывают инцидент. Их полезно сопоставлять с учётной записью, версией модели, решением политики, источником контекста и результатом вызова инструмента.
Какие меры создают границу
Меры работают в связке и не перекладывают ответственность на модель: важны границы полномочий, владелец, телеметрия и процедура безопасного отказа.
Реестр интерфейсов моделей
Вести учёт всех точек подключения с владельцем и назначением. Неучтённые интерфейсы выводятся из эксплуатации.
Публикация через шлюз API
Направлять все обращения к моделям через шлюз с квотами и проверкой прав, убирая прямой доступ.
Строгая аутентификация и ротация ключей
Применять взаимную проверку сертификатов или токены с ограниченным сроком и регулярно менять ключи.
Сегментация сети для моделей
Размещать интерфейсы вывода и администрирования в отдельных сегментах, ограничивая последствия утечки ключа.
Контроль внешней поверхности атаки
Регулярно выявлять опубликованные интерфейсы и отслеживать аномалии трафика и расхода.
Вопросы, показатели и первые шаги
Вопросы команде и поставщику
- Сколько интерфейсов моделей у нас опубликовано и у каждого ли есть владелец?
- Какие из них доступны из интернета и чем защищены?
- Как быстро будет отозван утёкший ключ?
- Кто увидит аномальный рост расхода на вычисления?
Показатели контроля
- Доля интерфейсов моделей, опубликованных через шлюз со строгой аутентификацией
- Доля ключей, сменённых в установленный срок
- Число обнаруженных неучтённых или открытых интерфейсов
Первые 30 дней
- Провести поиск опубликованных интерфейсов моделей, включая тестовые стенды
- Закрыть доступ с настройками по умолчанию и сменить ключи
- Ввести квоты и оповещения о расходе на шлюзе
Как проверить в пилотном проекте
Проверить сегментацию, учётные записи и ограничение расхода ресурсов на вывод модели и выполнение агентов.
Сервисная учётная запись имеет минимальные полномочия для согласованной нагрузки.
Политика сети и квот ограничивает неразрешённый маршрут или нештатный расход.
Телеметрия исполнения поступает в согласованный мониторинг или процесс SOC.
Какие классы решений рассматривать
Ниже — редакционные профили поставщиков, связанные с доменом угрозы. Это не рейтинг и не подтверждение применимости: заявленные функции следует проверить в вашем пилоте по указанным критериям.
INFERA AI Security portfolio
InfEra Security · AI Security / DevSecOps
INFERA AI.SafeCode · INFERA AI.Firewall
AIGATE / DevScore / AIPitch
Aitalon · AI Gateway
AIGATE · DevScoreAqua CNAPP
Aqua Security · CNAPP / Container Security
Aqua CNAPP capabilitiesИсточники и проверка
Сначала — объяснение для русскоязычной команды. Затем — первоисточники, по которым можно проверить границы, методологию и применимость в конкретной архитектуре.