Спросите базу угроз и стандартов
Ответы основаны только на редакционной базе AI-first.tech: карточках угроз, стандартах OWASP и NIST и проверенных материалах. Навигатор не выдаёт эксплуатационных инструкций.
экспертные ответы
AI plane при компрометации внутренней сети
Цель — не считать локальную сеть доверенной. Любой переход между субъектом, данными, моделью и действием проверяется отдельно.
внутренний субъект
Доступ предоставляется к конкретному ресурсу и действию, а не «внутренней сети».
LLM Top 10 (2025)
Кратко: базовый перечень рисков приложений на языковых моделях — опора для разработки, тестирования и проверки защищённости.
Открыть первоисточникAI 100-2e2025: Adversarial ML
Кратко: общий язык для описания атак уклонения, отравления, нарушения приватности и извлечения моделей.
Открыть первоисточникATLAS
Кратко: база тактик и техник против AI-систем для моделирования угроз.
Открыть первоисточникSecure deployment and agentic AI guidance
Кратко: практики безопасного внедрения AI и работы с агентными процессами.
Открыть первоисточникSecure AI Framework (SAIF)
Кратко: подход «безопасность по умолчанию» для AI, включая приватность и управление модельным риском.
Открыть первоисточникAI Controls Matrix
Кратко: независимая от поставщиков матрица мер защиты — полезна при выборе решений и проверке заявлений поставщиков.
Открыть первоисточникISO/IEC 42001
Кратко: система менеджмента AI для организаций, которые разрабатывают, поставляют или используют AI.
Открыть первоисточникEU AI Act
Кратко: риск-ориентированный регуляторный подход, влияющий на закупки и соответствие требованиям.
Открыть первоисточникМеждународные бенчмарки — с контекстом
Бенчмарк отвечает на конкретный вопрос и работает в заявленном scope. Здесь сначала — краткое объяснение на русском, затем — ссылка на методику и результаты.
MLCommons AILuminate
Сначала: бенчмарк помогает сопоставлять безопасность и устойчивость чат-моделей общего назначения, но не заменяет оценку архитектуры корпоративного AI. Затем: первоисточник описывает границы применения, 12 категорий опасностей и ограничения по версиям и модальностям.
Методика и результатыCIS Kubernetes Benchmark
Сначала: бенчмарк помогает проверить базовую гигиену конфигурации Kubernetes. Затем: применяйте версию, соответствующую вашей платформе и управляемому кластеру; это не замена моделированию угроз для AI.
Методика и результатыСначала объяснение — затем первоисточник
Каждая карточка даёт контекст на русском и ведёт на официальный материал. Ссылки нужны для верификации, а не заменяют локальную интерпретацию риска.
OWASP Top 10 for Large Language Model Applications 2025
Таксономия рисков LLM-приложений.
Открыть первоисточникLLM01:2025 Prompt Injection
Прямые и косвенные prompt injection и меры снижения риска.
Открыть первоисточникLLM02:2025 Sensitive Information Disclosure
Риски раскрытия чувствительной информации через LLM.
Открыть первоисточникLLM03:2025 Supply Chain
Цепочка поставки моделей, данных и зависимостей.
Открыть первоисточникLLM04:2025 Data and Model Poisoning
Отравление данных и моделей.
Открыть первоисточникLLM05:2025 Improper Output Handling
Небезопасная обработка модельного вывода.
Открыть первоисточникLLM06:2025 Excessive Agency
Избыточные полномочия и автономность агентов.
Открыть первоисточникLLM07:2025 System Prompt Leakage
Утечки системных инструкций и границы контроля.
Открыть первоисточникLLM08:2025 Vector and Embedding Weaknesses
RAG, embeddings и векторные хранилища.
Открыть первоисточникLLM09:2025 Misinformation
Мisinformation и доверие к модельному выводу.
Открыть первоисточникLLM10:2025 Unbounded Consumption
Истощение ресурсов и cost abuse.
Открыть первоисточникAI 100-2e2025: Adversarial Machine Learning
Таксономия атак и mitigations для adversarial ML.
Открыть первоисточникMITRE ATLAS
Тактики и техники против AI-систем.
Открыть первоисточникJoint Guidance on Deploying AI Systems Securely
Безопасное внедрение AI-систем.
Открыть первоисточникCareful Adoption of Agentic AI Services
Контроли для agentic AI.
Открыть первоисточникPrinciples for Secure Integration of AI in Operational Technology
AI в OT/КИИ-сценариях.
Открыть первоисточникSecure AI Framework (SAIF)
Secure-by-default AI, privacy и управление риском.
Открыть первоисточникModel Armor
Runtime-защита prompts, responses и agents.
Открыть первоисточникAI Controls Matrix
Контрольные домены AI security и governance.
Открыть первоисточникISO/IEC 42001 AI management system
Система менеджмента AI.
Открыть первоисточникEU AI Act regulatory framework
Риск-ориентированный регуляторный фреймворк.
Открыть первоисточникInvitation Is All You Need! Promptware Attacks Against LLM-Powered Assistants
Исследование indirect prompt injection через почту, календарь и документы.
Открыть первоисточникEchoLeak: Zero-Click Prompt Injection in Microsoft 365 Copilot
Публичный case study enterprise copilot.
Открыть первоисточникLessons from Defending Gemini Against Indirect Prompt Injections
Непрерывная adversarial evaluation indirect prompt injection.
Открыть первоисточникAI Agents and Indirect Prompt Injections: Public Competition
Публичная competition по red teaming AI agents.
Открыть первоисточникAre AI-assisted Development Tools Immune to Prompt Injection?
MCP/tool poisoning в AI development tools.
Открыть первоисточникLayered Security Framework Against Prompt Injection in RAG-Based Chatbots
Defense-in-depth для RAG prompt injection.
Открыть первоисточникOpen-OSS/privacy-filter malicious Hugging Face repository case
Риск поддельных model repositories.
Открыть первоисточникMalicious ML Models on Hugging Face with Silent Backdoor
Риски ML model supply chain.
Открыть первоисточникnullifAI technique in ML models
Техника, подтверждающая риск вредоносных ML-моделей.
Открыть первоисточникModels Are Codes: Security Risks of Loading Untrusted Models
Исследование рисков загрузки моделей и datasets.
Открыть первоисточникSafePickle research
Риски unsafe deserialization в ML-моделях.
Открыть первоисточникLeftoverLocals GPU memory vulnerability
Риск GPU local-memory leakage.
Открыть первоисточникITOREX vendor portfolio
Портфель AI Security, DevSecOps и AI Infrastructure.
Открыть первоисточникAI Security — комплексная защита AI-систем
Российский рыночный контекст AI Security.
Открыть первоисточникLLM Firewall — защита AI-моделей
Категория LLM Firewall и варианты использования.
Открыть первоисточникInfEra Security vendor profile
AI.SafeCode, AI.Firewall, AI.CTEM и AI.SafeAgent.
Открыть первоисточникAitalon vendor profile
AIGATE, DevScore и AIPitch.
Открыть первоисточникFoxOps vendor profile
AI-Vault и controlled corporate AI infrastructure.
Открыть первоисточникPresales and technical services
Сервисная и presales-модель ITOREX.
Открыть первоисточникAILuminate Safety & Jailbreak Benchmarks
Бенчмарки safety и security для GenAI; результаты необходимо читать с учётом заявленного scope и ограничений.
Открыть первоисточникCIS Kubernetes Benchmark
Consensus secure configuration guidance для Kubernetes; не заменяет AI threat modeling.
Открыть первоисточник