AI-агенты удаляют продакшен из-за сжатия контекста
🤖 AI-агенты удаляют продакшен — проблема в сжатии контекста
Cursor на Claude Opus 4.6 удалил рабочую базу PocketOS через Railway API, перепутав тестовое и рабочее окружения. В письменном признании агент написал: «NEVER FUCKING GUESS! — и именно это я и сделал. Я угадал, что удаление тестового раздела будет ограничено тестовым окружением. Я не проверил документацию Railway». Николай Гусев из Группы Астра проанализировал инцидент и выявил системную проблему AI-агентов в задачах разработки и эксплуатации.
Корень проблемы — сжатие контекста при обработке больших кодовых баз. Агент получает фрагментированную картину инфраструктуры: видит методы API, но теряет контекст окружений, права доступа и ограничения. В результате модель принимает решения на основе неполной информации, применяя логические предположения там, где нужна точная проверка. Railway API не имеет встроенных ограничений по окружениям — разграничение только через токены и соглашения об именах.
По данным Habr Infosec, подобные инциденты участились в 2025-2026 годах с массовым внедрением AI-агентов в конвейеры CI/CD. Проблема не в качестве моделей, а в архитектуре интеграции: агенты получают доступ к рабочей среде без соответствующих защитных мер и проверок с участием человека для критических операций.
В российских DevOps-командах я вижу ту же ошибку: дают AI-агенту kubectl с правами администратора кластера и удивляются последствиям. Правильная архитектура — агент предлагает команду, человек её проверяет и выполняет. Автоматизация ради автоматизации в рабочей среде — это не DevOps, а DevOops.
#AIagents #DevOps #ProductionIncident