A59 · Угрозы с применением AI

Вредоносные и уязвимые AI-расширения браузера и плагины

Расширения и плагины с AI-функциями могут получать доступ к страницам, запросам, учётным данным, почте и данным облачных сервисов. Сотрудник ставит удобный помощник, а организация получает неучтённый канал вывода информации.

Иллюстрация к карточке угрозы «Вредоносные и уязвимые AI-расширения браузера и плагины»
Отправить с описанием:TelegramWhatsApp
Кратко для руководителя

В чём суть риска

Расширения и плагины с AI-функциями могут получать доступ к страницам, запросам, учётным данным, почте и данным облачных сервисов. Сотрудник ставит удобный помощник, а организация получает неучтённый канал вывода информации.

Сотрудник устанавливает расширение, чтобы получать краткое изложение страниц. Расширение читает содержимое вкладок, включая внутренние порталы, и отправляет его внешнему сервису. Нередко используется личная учётная запись, поэтому корпоративные средства контроля этого не видят. Граница доверия нарушается, когда стороннее программное обеспечение работает внутри авторизованного сеанса браузера с широкими разрешениями.

Связь со стандартамиOWASPLLM09MITRE / ATT&CKATT&CK: PhishingNISTNIST AI RMF: Map
01
Влияние на бизнес

Чем риск оборачивается для компании

Данные

Содержимое внутренних порталов и переписки уходит стороннему поставщику.

Безопасность

Доступ расширения к сеансам создаёт риск компрометации учётных записей.

Право и комплаенс

Появляется неучтённое использование AI и несанкционированное отслеживание действий сотрудников.

Где риск наиболее вероятен

Пересказ и перевод веб-страницAI-помощники для почты и документов в браузереПлагины к облачным офисным сервисамРабота с внутренними порталами через личный профиль браузера
02
Зоны ответственности

Кому и что решать

ИТ-директор

Ввести управляемые профили браузеров и перечень разрешённых расширений, предложив сотрудникам одобренную альтернативу.

Директор по кибербезопасности

Обеспечить контроль установленных расширений, их разрешений и исходящего трафика к AI-сервисам.

Владелец бизнес-процесса

Учитывать потребность команд в AI-помощниках и закрывать её согласованными инструментами.

03
Сигналы для службы мониторинга

Что стоит наблюдать

Признаки сами по себе не доказывают инцидент. Их полезно сопоставлять с учётной записью, версией модели, решением политики, источником контекста и результатом вызова инструмента.

Расширения с разрешением читать все страницы
Исходящий трафик к неизвестным AI-сервисам из браузера
Использование личных учётных записей в рабочих AI-инструментах
Корпоративные данные в запросах и журналах сторонних сервисов
Установка расширений вне утверждённого перечня
04
Проектирование защиты

Какие меры создают границу

Меры работают в связке и не перекладывают ответственность на модель: важны границы полномочий, владелец, телеметрия и процедура безопасного отказа.

01Организационная

Проверка поставщиков расширений

Оценивать поставщика и условия обработки данных до включения расширения в разрешённые.

02Организационная

Информирование сотрудников

Объяснять, какие данные видит расширение и какими инструментами пользоваться вместо него.

03Техническая

Перечень разрешённых расширений

Централизованно разрешать установку только утверждённых расширений.

04Техническая

Контроль на рабочих станциях

Применять политики конечных точек, запрещающие неуправляемые профили и плагины.

05Техническая

Предотвращение утечек данных

Ограничивать передачу конфиденциального содержимого во внешние сервисы средствами контроля утечек.

06Мониторинг

Контроль доступа к облачным сервисам

Отслеживать обращения к AI-сервисам и выявлять неучтённое использование.

05
Управленческий контроль

Вопросы, показатели и первые шаги

Вопросы команде и поставщику

  1. Какие AI-расширения установлены в браузерах сотрудников?
  2. Кто утверждает расширения и проверяет их разрешения?
  3. Видим ли мы передачу данных во внешние AI-сервисы?
  4. Есть ли у сотрудников одобренная замена популярным помощникам?

Показатели контроля

  • Доля рабочих станций с управляемым перечнем расширений
  • Число выявленных расширений вне утверждённого перечня
  • Число обращений к несогласованным AI-сервисам

Первые 30 дней

  1. Собрать перечень установленных расширений и их разрешений
  2. Заблокировать расширения с избыточным доступом и утвердить разрешённый перечень
  3. Сообщить сотрудникам правила и доступные согласованные инструменты
06
Проверка в пилоте

Как проверить в пилотном проекте

Проверить связку противодействия мошенничеству, аналитики угроз и проверки действия вне доверенного канала.

1

Согласованный сигнал мошенничества попадает в процесс первичного разбора без автоматического обвинения пользователя.

2

Критичное действие требует независимого шага проверки.

3

Команда видит источник сигнала, решение и путь эскалации.

Открыть матрицу пилота
07
Контекст рынка

Какие классы решений рассматривать

Аудит теневого AIЗащита конечных точекБрокер безопасного доступа к облаку (CASB)

Ниже — редакционные профили поставщиков, связанные с доменом угрозы. Это не рейтинг и не подтверждение применимости: заявленные функции следует проверить в вашем пилоте по указанным критериям.

Проверенные источники

Источники и проверка

Сначала — объяснение для русскоязычной команды. Затем — первоисточники, по которым можно проверить границы, методологию и применимость в конкретной архитектуре.

S03 · OWASPLLM02:2025 Sensitive Information DisclosureРиски раскрытия чувствительной информации через LLM.S14 · CISAJoint Guidance on Deploying AI Systems SecurelyБезопасное внедрение AI-систем.