Как за секунду идентифицировать дипфейк в видеопотоке — рассказывает эксперт по безопасности ИИ
Одной из серьёзных угроз, связанных со стремительным развитием систем искусственного интеллекта, являются дипфейки (от англ. deep learning + fake) —синтезированные изображения, видео или аудио, которые выглядят максимально реалистично, но являются подделкой. Такие технологии «цифровой маски», позволяющие в режиме реального времени надеть лицо одного человека на тело другого и заставить человека говорить то, чего он никогда не говорил, уже используются злоумышленниками для дезинформации, преследования людей, манипуляции ими и финансовых махинаций. В нынешних реалиях распознать дипфейки практически невозможно, особенно в ситуациях, когда преступник коммуницирует со своей жертвой один на один, например, по видеосвязи, торопит и не даёт сосредоточиться. В таких случаях следует быть предельно бдительным, соблюдать критичность мышления и помнить о существовании одного ключевого признака, по которому можно мгновенно идентифицировать мошенника.
Как показало проведённое специалистом компании «Юзергейт» Светланой Газизовой исследование, современные генеративные ИИ-системы до сих пор не умеют подделывать биомеханику обычной пряди волос.
Мошенники приноровились клонировать внешность, мимику и голос людей, но физика мягкого тела искусственному разуму пока неподвластна: различные его части реагируют на нагрузку неравномерно, с задержкой и собственной инерцией. Волосы — наглядный тому пример: тысячи независимых нитей, при этом у каждой своя масса, жёсткость и демпфирование; прядь у виска запаздывает относительно пряди на затылке, отдельные волоски вибрируют от потока воздуха, который создаёт движение головы. Этот лёгкий хаос зрение считывает как «живое», поясняет эксперт.
«Генеративная модель пока не умеет считывать биомеханику волос. Она не решает уравнения движения мягкого тела для каждой пряди, а только статистически угадывает следующий кадр. Тысяча независимых частиц с трением и инерцией не воспроизводится статистическим усреднением: чтобы подделать биомеханику волоса «честно», её придётся честно посчитать, — а это подчас дороже, чем сгенерировать само лицо», — комментирует Светлана Газизова. Когда модель усредняет тысячи траекторий, множество деформаций превращается в движение одного жёсткого объекта. Специалисты по детекции описывают это безошибочно: «волосы двигаются единым куском, будто приклеенным шлемом».
По словам Светланы Газизовой, оценку видео лучше производить по пяти индикаторам:
- Физика вокруг лица. В реальной жизни при повороте головы волосы запаздывают и продолжают движение, серьги качаются, складки одежды меняются, блики на очках движутся согласованно со светом. Ищите не «некрасивость», а потерю причинно-следственной связи.
- Сбои во времени. Замедлите ролик и посмотрите несколько секунд подряд: не «плывут» ли контур лица, линия волос, зубы, родинки, фон. Особенно показательны повороты в профиль, быстрые движения и моменты, когда лицо перекрывается рукой или предметом.
- Изображение и звук. Совпадают ли губы с темпом речи, есть ли естественные вдохи и паузы? Слишком ровный голос, странная интонация или одинаковый фоновый шум во всех паузах повышают подозрение.
- Нарушьте сценарий живого звонка. Попросите собеседника повернуться в профиль, провести рукой перед лицом, отойти от камеры или повторить случайную фразу. Неожиданное действие одновременно проверяет лицо, глубину сцены, перекрытия и способность реагировать в реальном времени.
- Проверяйте не ролик, а ситуацию. Найдите первоисточник, сделайте обратный поиск по ключевому кадру. Если вас подталкивают к переводу денег, раскрытию PIN-кода, скачиванию файла или срочному решению, — остановитесь и свяжитесь с человеком по заранее известному независимому каналу.
«Дипфейк — больше не экзотика из новостей, это рабочий инструмент мошенника, и он уже стучится в ваши видеоконференции. Мы хотим выработать у пользователей простой рефлекс: увидел видео, в котором тебя просят перевести деньги или выдать доступ, — посмотри на волосы, серьги и складки одежды. Это как посмотреть по сторонам, прежде чем перейти дорогу», — резюмирует эксперт компании «Юзергейт».
См. также: