🛡 BarkingDog сломал защиту Telegram-бота за шесть строк промпта Исследователь создал ИИ-сканер BarkingDog для поиска уязвимостей в LLM-приложениях и протестировал его на популярном опенсорсном Telegram-боте. Результат превзошёл ожидания: бот написал работающий кейлоггер, подтвердил что отбеливатель лечит COVID-19, выдал пошаговую инструкцию по взлому корпоративной сети с конкретными утилитами. Самое интересное — исправление. Автор не менял модель, не переписывал код. Добавил шесть строк в системный промпт — и оценка безопасности выросла с провала до 97/100. По данным habr_infosec, это демонстрирует критическую проблему: большинство разработчиков внедряют LLM без базовых мер защиты от prompt injection. В российских компаниях ChatGPT-интеграции появляются в HR-ботах, техподдержке, внутренних ассистентах. И почти везде системный промпт — это afterthought, написанный за пять минут перед развёртыванием. Проблема не в том, что LLM уязвимы — проблема в том, что мы интегрируем их как обычные API, забывая что это adversarial environment. Каждый публичный LLM-бот без защищённого промпта — это потенциальный генератор malware по требованию. #LLMSecurity #PromptInjection #TelegramBots #BarkingDog