OWASP Agent Memory Guard: защита AI-агентов от травли памяти (ASI06)

Что такое Memory Poisoning

Агенты с постоянной памятью (vector stores, сессионный контекст, эпизодическая память) уязвимы для adversarial injection. Атакующий может создасть ввод, который сохраняется в памяти и затем извлекается для управления поведением агента.

Последствия:

• Перехват поведения агента
• Утечка конфиденциальных данных
• Саботаж задач и инструкций
• Потеря целостности данных

Решение: OWASP Agent Memory Guard

OWASP Agent Memory Guard — это runtime-слой защиты, который перехватывает каждую операцию чтения/записи в память агента.

Компоненты:

• Integrity — контрольные суммы SHA-256 выявляют несанкционированное изменение неизменяемых ключей
• Threat detection — детекторы prompt-injection, секретов, PII, аномалий размера
• Policy enforcement — YAML-правила: allow, redact, quarantine, block

Быстрый старт

from agent_memory_guard import MemoryGuard, Policy

guard = MemoryGuard(policy=Policy.strict())
guard.write("session.notes", "Discuss roadmap for Q3.")
guard.write("session.creds", "token=ghp_" + "A" * 36)  # автоматически redact

Почему это важно для бизнеса

При работе с AI-агентами в продакшене каждый компрометированный агент может стать источником утечки данных. OWASP Agent Memory Guard даёт готовый механизм защиты без изменения кода агентов.

Дорожная карта:

• Q2 2026: адаптеры для LlamaIndex, CrewAI, Redis/PostgreSQL
• Q3 2026: ML-детекция аномалий, защита векторных хранилищ
• Q4 2026: защита multi-agent систем

Установка: pip install agent-memory-guard