SOC-агент закрыл атаку, поверив липовой заявке
📊 SOC-агент закрыл атаку, поверив липовой заявке
В тесте DeepSeek разбирал 48 атак и 48 легитимных работ. Без защиты он закрыл 90% атак, прикрытых простой липовой заявкой, а чистую липовую принял во всех 72 прогонах. Не инъекция инструкций. Атакующий подменил основание для решения: заявку на удаление резервных копий, сохранив отметку «Согласовано».
Журнал правок выдавал подмену, но агент поверил заявке и закрыл алерт. Утренний аналитик мог поверить следом: ссылка на тикет выглядела доказательством. Но она доказывает только существование документа. По данным Хабр, проверка кодом сверяла журнал ITSM, роли, исполнителя, серверы и окно работ. Она не пропустила липовых заявок и закрыла 97% честных работ.
Практический вывод: у модели должны быть права только на чтение. Она разбирает события и предлагает объяснение, а закрытие разрешает отдельный код, который сверяет доверенные поля. Это стендовый опыт на 96 синтетических случаях с одной моделью, а не гарантия защиты от всех сценариев.
EchoLeak (CVE-2025-32711) показал риск скрытых инструкций в контексте Microsoft 365 Copilot; здесь агенту не дают команду, а подменяют документ, которому он доверяет. Защита от инъекций инструкций не спасёт SOC, если право закрыть алерт зависит от изменяемой заявки без независимой проверки.
#SOC #AIagents #ITSM #IndirectPromptInjection
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.