⚠️ Anthropic предлагает порог для запрета опасных ИИ-моделей 50 погибших или $1 млрд ущерба — такие пороги катастрофического риска описаны в варианте законопроекта об ИИ-безопасности. Это предложение, не действующий закон. По данным D-Russia, угрозой также считают создание или применение биологического оружия, неотразимую кибератаку и потерю разработчиками контроля над моделью. Оценивать риск должны независимые специалисты, зарегистрированные в Минторге США. Если они выявят катастрофическую угрозу, ведомство получит уведомление в течение 72 часов, а затем должно обратиться в суд за запретом модели. В публикации не описана методика, по которой оценщики подтвердят эти пороги. Здесь и слабое место проекта: численные критерии выглядят точными, но сами по себе не дают воспроизводимого способа проверки риска. Я бы следил не за красивой цифрой, а за тем, какие доказательства потребуют от разработчика и оценщиков. Без общей методики решение о запрете может зависеть от того, кто именно проводит оценку. #Anthropic #ИИ #Киберугроза