Что такое дипфейки, как они работают и как защитить себя от обмана
Повсеместное распространение технологий машинного обучения и искусственного интеллекта (ИИ) на базе нейронных сетей привело к появлению не только качественно новых программных продуктов, но и злоумышленнических схем. Ярким примером последних являются так называемые дипфейки (deepfake, от deep learning — «глубокое обучение» и fake — «подделка»), представляющие собой сгенерированный ИИ очень реалистичный поддельный аудио- или видеоконтент.
Дипфейки позволяют подделывать голос и внешность человека в режиме реального времени и всё активнее используются киберпреступниками в социальных сетях, мессенджерах и прочих коммуникационных сервисах. Имитируя чужой голос и внешность, злоумышленники втираются в доверие к жертвам с целью обмана и извлечения финансовой выгоды. Например, они рассылают сообщения от поддельных родственников или знакомых с просьбой срочно перевести деньги. Такая схема очень распространена. Нередко дипфейки применяются для дискредитации, шантажа, дезинформации и обмана систем аутентификации.
Сделать дипфейк несложно и не так дорого. Чтобы имитировать чей-то голос, мошенникам достаточно иметь его образец, а взять они его могут откуда угодно. Например, позвонить человеку и записать разговор. Для видеоподделок обычно используются фотографии из соцсетей. Современные ИИ-инструменты позволяют создавать очень убедительные и правдоподобные дипфейки. Чтобы защититься от них и не попасться на удочку злоумышленников, ведущий инженер по информационной безопасности «Яндекса» Николай Хечумов советует придерживаться следующих правил и рекомендаций.
- Во время звонка обращайте внимание на поведение собеседника — на интонации, ударения, дыхания, паузы и в целом на нехарактерную для человека манеру общения.
- Задайте контрольный вопрос, ответ на который знает только ваш собеседник. Например, можно спросить про кличку домашнего питомца или про что-то из совместных интересов.
- При видеозвонке лицо собеседника может выглядеть неестественно. Попросите собеседника, например, показать четыре пальца. Если у него не получится это сделать, то перед вами клон.
- Если якобы ваш знакомый позвонил вам с необычной просьбой, например, дать денег в долг, не спешите. Перезвоните ему сами и спросите, правда ли ему нужна помощь. Для таких случаев вы можете придумать секретный пароль и ответ на него. Он должен быть известен только вам, вашей семье и друзьям.
- Ну и, разумеется, не сообщайте никому свои банковские реквизиты, пароли и коды из SMS. Часто мы сами выкладываем информацию о себе в открытый доступ, но в наших силах снизить вероятность мошенничества с использованием дипфейков. Скройте свои профили в социальных сетях от незнакомцев, включите двухфакторную аутентификацию везде, где она доступна, используйте определитель номера и будьте в безопасности.
Более подробные инструкции от специалиста «Яндекса» опубликованы в Telegram, а ознакомиться с ними можно по приведённой ниже ссылке.