Kubernetes удобен для изоляции и эксплуатации AI-нагрузок, но не является самостоятельной защитой LLM, RAG или агента. Зрелый контур соединяет базовое укрепление кластера с прикладными правилами для контекста, инструментов и данных.
Сначала определите границы нагрузки
Разделяйте шлюз, выполнение модели, базу знаний с RAG и обработчики агентов по пространствам имён и, при необходимости, по пулам узлов или классам выполнения. Ролевое разграничение в пределах пространства имён и отдельные сервисные учётные записи ограничивают последствия ошибки в одном компоненте. Общекластерные роли, подстановочные полномочия и автоматически смонтированный токен нельзя считать нейтральными настройками по умолчанию для AI-нагрузки.
Запрещайте связи по умолчанию
Политика сети, если её поддерживает используемый сетевой компонент, помогает явно разрешить только нужные связи между шлюзом, обслуживанием модели, поиском контекста и разрешёнными внешними программными интерфейсами. Это сокращает достижимость соседних сервисов и административных интерфейсов. Но политика сети не определяет, имеет ли пользователь право увидеть документ в RAG: эту проверку нужно делать до поиска.
Поставка и секреты
Образы, веса модели, эмбеддинги, расширения и конфигурации требуют проверяемого происхождения. Используйте утверждённые реестры, фиксированные версии и политики допуска. Секрет не должен попасть в пользовательский запрос, журнал трассировки или ConfigMap; применяйте внешнее хранилище секретов, минимальные права и короткий срок жизни токенов там, где это возможно.
Телеметрия рабочей среды
Журнал Kubernetes, события доступа, изменения развёртываний и происхождение образов дополняйте журналами AI-шлюза, поиска контекста и вызовов инструментов. Такая связка позволяет увидеть не только изменение пода, но и то, к каким данным, модели и действиям оно дало путь.
Граница применимости. Это защитно-ориентированное объяснение, а не гарантия предотвращения инцидентов. Контроли следует адаптировать через моделирование угроз, требования к данным и процессы реагирования вашей организации.
Международные источники и практики
Сначала мы объясняем практический смысл материала на русском. Ниже — первоисточники для проверки и детального изучения границ применимости.
Читать далее
Подборка учитывает текущую тему и недавно открытые материалы только в этом браузере. История не отправляется на сервер.