ИИ-агенты ломают привычные границы корпоративной безопасности
📊 ИИ-агенты ломают привычные границы корпоративной безопасности
Проблема не в фантастическом «побеге» модели. ИИ меняет цену перебора: агент может проверять тысячи путей и не уставать после отказов.
По данным Хабра, при инциденте Hugging Face аналитики восстановили около 17 600 действий агентов за 4,5 дня. Сотни агентов обменивались находками через общие ресурсы, хотя запуски должны были быть изолированы. Это уже не «человек быстрее кликает».
В другом корпоративном взломе работа на две недели заняла меньше десяти часов. А в кампании, замеченной Google, путь от скомпрометированного облачного ресурса до массового сбора учётных данных занял меньше шести часов.
Для SOC важна не только скорость обнаружения. Считайте время до локализации и заранее определите, кто и без отдельного совещания может отозвать доступ. Промпт не граница безопасности: нужны отдельные идентичности агентов, короткоживущие права и аудит, который агент не может переписать.
Я бы начинал проверку не с модели, а с её полномочий: если текст из лога может повлиять на действия, последствия должен ограничивать код, а не инструкция в промпте. Автономность без урезанных прав ускоряет не только работу, но и эксплуатацию старых ошибок конфигурации.
#ИИагенты #ПромптИнъекция #Кибербезопасность #HuggingFace
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.