ИИ в компании начинается с инвентаризации, не с модели
🛡 ИИ в компании начинается с инвентаризации, не с модели
Главный риск для управления уязвимостями — не только ошибки самой модели, но и незамеченные ИИ-инструменты. По данным Хабра, 69% из 302 опрошенных руководителей ИБ подозревают или знают, что сотрудники используют запрещённые публичные ИИ-сервисы. Cyberhaven зафиксировала рост доли чувствительных корпоративных данных в запросах с 10,7% до 34,8% среди 7 миллионов работников. Это уже не узкий риск модели.
Уязвимы и инструменты вокруг неё. За первые недели 2026 года нашли больше 30 CVE для MCP-серверов, почти половина связана с внедрением команд. В июле исследователи описали семь способов обхода песочниц в Cursor, OpenAI Codex, Gemini CLI и Antigravity: агент создавал файл, который затем исполнял доверенный процесс. Не каждый такой способ означает компрометацию в реальной среде. Но границу доверия здесь легко провести неправильно.
Инвентаризировать нужно не только модели, но и агентов, MCP-серверы, подключённые данные и права на запуск команд. Срез статьи актуален на 8 октября 2026 года. Одной описи мало: она не остановит внедрение инструкций, если агенту выдали избыточные права.
Я бы проверял ИИ-агента как привилегированное ПО, а не как чат-бота. Важнее всего не то, что он ответит, а что сможет прочитать и выполнить без отдельного подтверждения.
#ShadowAI #MCP #AgentSecurity #VulnerabilityManagement
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.