Фильтры ИИ чаще тормозят исследователей, чем злоумышленников
📊 Фильтры ИИ чаще тормозят исследователей, чем злоумышленников
22 октября 2026 года Hugging Face представила Carbon-X — открытую модель для анализа и генерации последовательностей ДНК. У неё 14,8 млрд параметров, а дополнительное обучение по предметной области охватило 302 млрд токенов. По данным Хабр, коммерческая модель заблокировала даже вычитку твита о биологических ИИ-моделях.
Это не одно и то же. Фильтр не понимает контекст. Он реагирует на сочетание слов, а не надёжно определяет, кто и зачем задаёт вопрос. Цена — ошибочные отказы, которые особенно мешают правомерным исследованиям.
Carbon-X показала результат 66,7% на пяти контрольных тестах для ДНК против 67,5% у GPT-6.1 Sol в режиме максимального рассуждения. Для Carbon-X рассуждение отключили; заявленную разницу стоимости в 1800 раз нельзя считать универсальным сравнением. Авторы также исключили вирусные последовательности из обучающего корпуса, но модель не прошла клиническую проверку и испытания в лаборатории. Локальный запуск не равен безопасности.
Я бы оценивал защиту ИИ не только по числу успешных обходов ограничений, но и по доле заблокированных корректных запросов. Иначе отчёт покажет, насколько хорошо модель говорит «нет», но не покажет, кому именно она мешает работать.
#ИИ #CarbonX #фильтрыИИ
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.