📊 ИИ уже умеет генерировать контент, который сложно отличить от человеческого — особенно это касается текста. Дипфейки в видео мы научились более-менее распознавать, но с текстовым контентом ситуация критичнее. Проблема не только в том, что злоумышленники могут создавать убедительные фишинговые письма или фейковые новости. Гораздо серьёзнее то, что под угрозой оказывается сама концепция доверия в цифровой среде. Когда любой контент может быть сгенерирован, как мы будем отличать подлинную информацию от поддельной? EPSS растёт быстрее, чем темп установки патчей в корпоративном сегменте. Математика не в нашу пользу. В контексте ИИ-угроз это означает, что атакующие получают инструменты быстрее, чем мы успеваем адаптировать защиту. Уже сейчас видим массовое использование ChatGPT для создания малвари и социальной инженерии. А впереди — эра, когда проверка подлинности любого цифрового контента станет обязательным этапом работы с информацией. Думаю, нам придётся кардинально пересмотреть подходы к верификации контента. Возможно, будущее за криптографическими подписями на уровне создания контента — иначе цифровое пространство превратится в сплошное минное поле дезинформации. Источник: habr_infosec #ИИ #дипфейки #социальнаяинженерия @kibergvardiola — подписывайтесь, чтобы не пропустить киберважное.