# A39: Уязвимый код, созданный AI-ассистентом (AI-generated vulnerable code)

> AI-ассистенты ускоряют разработку, но могут предлагать небезопасные приёмы, устаревшие интерфейсы, слабую криптографию и уязвимые зависимости. Новые уязвимости быстрее доходят до промышленной среды, а излишнее доверие разработчиков к подсказкам накапливает долг по безопасности приложений.

- Канонический HTML: [/threats/a39-ai-generated-vulnerable-code](https://ai-first.tech/threats/a39-ai-generated-vulnerable-code)
- Язык: русский
- Редакционный принцип: защитный контекст без вредоносных полезных нагрузок и инструкций обхода.

## Домен

Безопасная разработка AI

## Как проявляется риск

Разработчик получает от ассистента готовый фрагмент и принимает его без проверки, тестов и контроля безопасности. Код выглядит работоспособным, и это создаёт ложное ощущение качества. Граница доверия нарушается там, где предложение модели приравнивается к проверенному решению. Объём нового кода растёт быстрее, чем возможности его просмотра. В результате ошибки проходят сборку и попадают в выпуск.

## Влияние на бизнес

- **Безопасность.** В продуктах появляются слабая аутентификация, небезопасная десериализация и уязвимые зависимости.
- **Операции.** Растёт объём исправлений после выпуска, команды тратят время на устранение накопленных дефектов.
- **Данные.** Секреты оказываются в исходном коде.

## Где риск наиболее вероятен

- Разработка с AI-ассистентом в среде программирования
- Автономные агенты, вносящие изменения в репозиторий
- Быстрое создание прототипов, переходящих в промышленную эксплуатацию
- Работа подрядчиков с AI-инструментами

## Кому и что решать

- **ИТ-директор.** Утвердить политику использования AI в разработке и сохранить обязательные этапы контроля качества.
- **Директор по кибербезопасности.** Обеспечить автоматический анализ кода и зависимостей в конвейере сборки для любого кода.
- **Владелец бизнес-процесса.** Учитывать в сроках время на проверку безопасности кода.

## Признаки для службы мониторинга

- В репозитории обнаруживаются секреты в исходном коде
- Анализ выявляет небезопасную десериализацию
- В новых изменениях встречается слабая аутентификация
- Добавляются зависимости с известными уязвимостями
- Доля изменений, прошедших просмотр, снижается

## Меры защиты

- **Политика использования AI в разработке** (организационная). Определить, где допустим AI-ассистент и какие проверки обязательны для принятого кода.
- **Статический и динамический анализ** (техническая). Проверять код автоматически в конвейере сборки, не выпуская изменения с критичными находками.
- **Контроль зависимостей при сборке** (техническая). Анализировать состав ПО и блокировать компоненты с известными уязвимостями.
- **Просмотр кода с позиции безопасности** (организационная). Сохранить обязательный просмотр человеком для изменений, созданных с участием AI.
- **Обязательное покрытие кода тестами** (техническая). Требовать тесты для принятого кода, включая проверки безопасности.
- **Отслеживание находок и охвата просмотра** (мониторинг). Наблюдать динамику уязвимостей и долю изменений, прошедших просмотр.

## Вопросы команде и поставщику

- Какие AI-инструменты используют наши разработчики и подрядчики?
- Проходит ли созданный AI код те же проверки, что и остальной?
- Как изменилось число уязвимостей после внедрения ассистентов?
- Успевает ли просмотр кода за ростом его объёма?

## Показатели контроля

- Доля изменений, прошедших просмотр и автоматический анализ
- Число уязвимостей, выявленных до выпуска и после него
- Покрытие тестами кода, созданного с участием AI

## Первые 30 дней

- Выяснить, какие AI-ассистенты применяются в командах
- Сделать анализ кода и зависимостей обязательным условием слияния
- Принять краткую политику использования AI в разработке

## Классы решений

- Статический анализ кода с применением AI
- Оркестрация безопасности приложений
- Анализ состава ПО
- Безопасная разработка (DevSecOps)

## Сопоставления

- OWASP: LLM05, LLM03
- MITRE: ATT&CK: Exploitation for Client Execution
- NIST: NIST SSDF

## Первоисточники

- [OWASP: LLM03:2025 Supply Chain](https://genai.owasp.org/llmrisk/llm032025-supply-chain/) — Цепочка поставки моделей, данных и зависимостей.
- [OWASP: LLM05:2025 Improper Output Handling](https://genai.owasp.org/llmrisk/llm052025-improper-output-handling/) — Небезопасная обработка модельного вывода.
- [arXiv: Are AI-assisted Development Tools Immune to Prompt Injection?](https://arxiv.org/abs/2603.21642) — MCP/tool poisoning в AI development tools.
- [ITOREX: InfEra Security vendor profile](https://itorex.ru/vendors/infera-security) — AI.SafeCode, AI.Firewall, AI.CTEM и AI.SafeAgent.

## Ограничение

Карточка описывает признаки и меры защиты. Она не является эксплуатационной инструкцией и не заменяет модель угроз конкретной организации.