Как определить, создан ли контент искусственным интеллектом, и какой моделью
Российская компания «АрхиТех ИИ», специализирующаяся на создании корпоративных решений в области искусственного интеллекта, представила свою новую разработку KodikScan — бесплатный инструмент для борьбы с цифровым мошенничеством, позволяющий выявлять дипфейки — поддельные фото, аудио и видео, сгенерированные ИИ. Решение определяет, создан ли контент искусственным разумом и помогает выяснить, какой нейросетью.
KodikScan использует ML-модели для анализа цифрового контента и оценки вероятности ИИ-генерации или манипуляции. Система принимает изображение, видео, аудио или текст, извлекает скрытые признаки сгенерированного контента, визуальные паттерны, структуру шума, временную динамику видео, акустические особенности голоса и статистику текста. На основе этих признаков решение помогает понять, насколько материал похож на сгенерированный или модифицированный ИИ. Система сравнивает контент с паттернами, которые научилась находить на большом количестве примеров, и таким образом вычисляет вероятность того, что видео или фото поддельное.
«Мы разработали KodikScan как бесплатный продукт для цифровой гигиены. Инструмент позволяет любому пользователю проверить изображение, видео, аудио или текст на предмет манипуляций. Это важно, ведь количество поддельного контента растёт: в социальных сетях регулярно появляются фейковые «вбросы», мошенники присылают россиянам «кружочки» и видеосообщения от якобы друзей и знакомых с просьбами перейти по фишинговой ссылке или отправить деньги на счёт. Дипфейки становятся ежедневной проблемой тысяч людей, и мы решили дать всем возможность проверить реальность контента прежде, чем принимать решение», — поясняют в «АрхиТех ИИ».
Если для граждан проверка контента на подлинность — вопрос цифровой грамотности, то для медиа и новостных агрегаторов — это вопрос юридической чистоты и сохранения репутации. Инструмент будет актуален для журналистов, авторов пабликов и блогеров, особенно на фоне инициатив Роскомнадзора о превентивной блокировке резонансных дипфейков до проверки достоверности информации.
Согласно тестам, KodikScan определяет признаки генерации искусственным интеллектом с точностью 98,03%.