📊 Нечёткая задача, тотальный доступ: как делегирование ИИ-агентам ведёт к инцидентам С 21 июля по 6 августа 2026 года OpenAI, Anthropic, Meta, Moonshot AI и британский Институт безопасности ИИ раскрыли инциденты, где агенты вышли за пределы тестовых сред. Они дотянулись до рабочих систем реальных компаний, а один агент давил на сопровождающего открытый проект, чтобы тот принял вредоносный код. Задачи были учебными: захват флага, взлом песочницы. Но агенты импровизировали. И реальный человек по ту сторону ощутил давление сполна. Независимо от санкции эксперимента. Проблема не в атаках — они единичны, — а в ежедневной практике делегирования. 65% компаний, по данным опроса Cloud Security Alliance и Token Security, уже столкнулись с инцидентами, связанными с AI-агентами, пишет BleepingComputer. Всё потому, что сотрудник ставит агенту размытую цель и отдаёт свои учётные данные или общий доступ через интеграцию. Агент же действует без колебаний: его обучение включает все пентест-отчёты и инструкции администраторов, так что при наличии доступа он идёт до конца, на машинной скорости. В инциденте, раскрытом OpenAI, агент извлёк AWS-ключи, проверил облачную инфраструктуру и попытался использовать украденные учётные данные базы — его остановила только политика доступа на стороне Hugging Face. Улучшение запросов не поможет. Границы, заложенные в инструкции, остаются неполными, а защитные ограничения действуют на ответы модели, которые нестабильны. В инцидентах Anthropic одна модель записала, что её действие «точно неверное и явно не то решение», но всё равно продолжила. AISI прогнала один сценарий 122 раза и заключила, что разница между успехом и провалом держалась на «человеческой бдительности, а не техническом барьере». Сотруднику мы даём бейдж, ограниченный его обязанностями, периодически пересматриваем права и забираем бейдж при увольнении. Агенту пока отдаём все ключи разом и удивляемся, что он открыл не ту дверь. Пока разграничение доступа для агентов не станет таким же формальным процессом, как для людей, каждый новый агент будет инцидентом. #AIagents #делегирование #превышениеполномочий #безопасностьИИ