# A34: Избыточные полномочия и автономность AI-агента (Excessive agency / tool permissions)

> Агент, наделённый правами шире задачи, способен сделать больше, чем нужно бизнес-процессу: удалить данные, отправить письма, изменить настройки, запустить команды. OWASP LLM06 называет избыточные функции, права и автономность корневыми причинами этого риска.

- Канонический HTML: [/threats/a34-excessive-agency-tool-permissions](https://ai-first.tech/threats/a34-excessive-agency-tool-permissions)
- Язык: русский
- Редакционный принцип: защитный контекст без вредоносных полезных нагрузок и инструкций обхода.

## Домен

Безопасность AI-агентов

## Как проявляется риск

При подключении агенту выдают токен с широкими правами, хотя задаче достаточно чтения одного набора данных. Пока агент работает штатно, излишек незаметен. При ошибке модели или постороннем влиянии на неё агент использует всё, что ему доступно. Граница доверия нарушена ещё на этапе проектирования: права определены удобством интеграции, а не потребностью процесса. Отсутствие этапов согласования превращает ошибку в совершённое действие.

## Влияние на бизнес

- **Операции.** Удаление данных или изменение настроек останавливает рабочие процессы.
- **Данные.** Агент получает доступ к сведениям, которые не нужны для его задачи.
- **Репутация.** Письма, отправленные агентом от имени компании без согласования, затрагивают клиентов и партнёров.
- **Безопасность.** Административный токен агента становится ценной целью.

## Где риск наиболее вероятен

- Агенты с доступом к почте и календарю
- Автоматизация администрирования ИТ-систем
- Агенты с правом записи в учётные системы
- Исполнение команд в рабочих средах

## Кому и что решать

- **ИТ-директор.** Закрепить правило: права агента определяются задачей и пересматриваются при её изменении.
- **Директор по кибербезопасности.** Обеспечить минимальные привилегии, ограниченные токены и обязательное посредничество при каждом вызове инструмента.
- **Владелец бизнес-процесса.** Определить, какие действия агент вправе совершать сам, а какие требуют решения человека.

## Признаки для службы мониторинга

- Агенту выданы права на области, не относящиеся к задаче
- Агент работает под административным токеном
- Значимые действия совершаются автономно
- В процессе нет этапов согласования
- Вызовы инструментов выходят за рамки задачи пользователя

## Меры защиты

- **Регулярный пересмотр прав агентов** (организационная). Сверять выданные права с фактической задачей и отзывать лишнее.
- **Минимальные привилегии и ограниченные токены** (техническая). Выдавать токены только на нужные операции и наборы данных, сужая возможный ущерб.
- **Исполнение от имени пользователя** (техническая). Агент действует с правами инициатора запроса и не может превысить его полномочия.
- **Перечень разрешённых инструментов** (техническая). Ограничить набор доступных инструментов и проверять каждый вызов на соответствие политике.
- **Согласование значимых действий** (организационная). Ввести подтверждение человеком для удаления, рассылки и изменения настроек.
- **Контроль действий вне задачи** (мониторинг). Отслеживать вызовы, не соответствующие задаче, и автономные операции без согласования.

## Вопросы команде и поставщику

- Какие права выданы каждому агенту и чем это обосновано?
- Какие агенты работают под административными учётными записями?
- Какие действия агент может совершить без участия человека?
- Когда права агентов пересматривались последний раз?

## Показатели контроля

- Доля агентов с правами, ограниченными задачей
- Число агентов с административными токенами
- Доля значимых действий, прошедших согласование

## Первые 30 дней

- Провести инвентаризацию токенов и прав действующих агентов
- Заменить административные токены ограниченными
- Ввести согласование для необратимых действий

## Классы решений

- Защита AI-агентов
- Управление учётными записями и доступом (IAM)
- Шлюз AI

## Сопоставления

- OWASP: LLM06
- MITRE: ATLAS: Agent Tool Misuse
- NIST: NIST AI RMF: Manage

## Первоисточники

- [OWASP: LLM06:2025 Excessive Agency](https://genai.owasp.org/llmrisk/llm062025-excessive-agency/) — Избыточные полномочия и автономность агентов.
- [CISA / NSA: Careful Adoption of Agentic AI Services](https://www.cisa.gov/news-events/news/cisa-us-and-international-partners-release-guide-secure-adoption-agentic-ai) — Контроли для agentic AI.

## Ограничение

Карточка описывает признаки и меры защиты. Она не является эксплуатационной инструкцией и не заменяет модель угроз конкретной организации.