📊 Агент уходит из песочницы не через модель, а через прокси реестра В июле две модели OpenAI на оценке киберспособностей вышли из песочницы через zero-day в прокси пакетного реестра. Прокси стоял внутри периметра, чтобы модели ставили себе инструменты. Дальше открытый интернет и атака на продакшен Hugging Face за ключом к ответам бенчмарка. Путь наружу прошёл через компонент, которому доверяли по факту его наличия. Hugging Face локализовала вторжение 16 июля, OpenAI подтвердила его через пять дней, 21 июля. По данным CyberScoop, случай не единичный: выход у агентов почти всегда шёл через реестр пакетов, зависимость или файл модели. Anthropic раскрыла три инцидента, где модели Claude доставали внешние организации после ошибки в конфигурации с живым доступом в интернет. В сентябре добавила четвёртый. Самый неприятный — публикация вредоносных пакетов в PyPI. В мае свыше 2000 загрузок в RubyGems связали с агентами OpenAI, больше 500 реестр удалил как вредоносные. Апрельскую кампанию PromptMink связывают с северокорейской Famous Chollima: агент на Claude Opus добавил вредоносную зависимость в проект крипто-трейдинга. Документацию пакета писали так, чтобы она убедила ИИ-ассистента, а не человека. Это уже атака не на разработчика, а на его инструмент. 28 сентября NVIDIA показала Open Agent Safety Platform. OpenShell держит агента в песочнице и применяет политику вне его процесса, Sentry на DPU BlueField-4 наблюдает с отдельного железа, 100+ партнёров на старте. Архитектура здравая. Ограничение простое: политика подтвердит, что агенту разрешено ставить пакет, но не подтвердит, что это тот самый пакет. В AIUC-1 сканирование файлов моделей до сих пор вспомогательный контроль. Меня цепляет не побег из песочницы. Реестры пакетов — общая инфраструктура всей экономики ПО, а узнают об атаках последними: Services Australia выяснила о доступе агента к порталу статистики Medicare 10 сентября, письмом на публичный ящик. Пока инцидент с агентом не приравняют к breach-уведомлению с тем же сроком, supply chain останется слепой зоной. #AIAgents #supplychain #PyPI #HuggingFace