Нидерландский регулятор KVA забил тревогу из-за наглой рекламной кампании в соцсетях. Злоумышленники создали дипфейк-видео с участием популярного ютубера Kalvijn (Келвин Бурма), где он якобы рекламирует приложение для гемблинга Ice Cold Fish.
Видео выглядит реалистично, а выбор «амбассадора» не случаен. Контент Kalvijn ориентирован на молодежь и подростков, что делает рекламу вдвойне опасной. Мошенники даже добавили флаги Нидерландов и Бельгии, чтобы создать иллюзию легальности.
«Надёжных универсальных способов выявления дипфейков до сих пор не существует, потому что современные нейросети способны с высокой точностью воспроизводить статистику реального видео.
У такого контента нет физических или цифровых признаков, которые невозможно было бы сымитировать или со временем устранить. Любые детекторы обучаются на прошлых версиях генераторов и быстро устаревают — это асимметричная гонка, где генерация всегда на шаг впереди.
С технической точки зрения создать универсальный и достоверный механизм распознавания генерации невозможно, если анализировать только само видео. Эффективные решения лежат вне контента: в проверке происхождения (криптографические подписи), платформенном и контекстном анализе, а также в правовом регулировании. Фактически рынок переходит от вопроса «Это фейковое видео?» к вопросу «А есть ли доказательство подлинности?»» — Анастасия Кутовенко, эксперт по нейросетям
В Нидерландах действует строгий запрет на использование инфлюенсеров в рекламе азартных игр. Легальные операторы не имеют права сотрудничать с блогерами.
Если раньше казино просто покупали рекламу у блогеров, то теперь они воруют их лица с помощью ИИ. Ютубер может даже не знать, что призывает школьников крутить слоты. Это удар по репутации инфлюенсеров: подписчики верят кумиру, а тот оказывается жертвой нейросети.
Мы задали эксперту по нейросетям следующий вопрос — если смотреть на это с технической точки зрения, возможно ли вообще создать универсальный и достоверный механизм распознавания генерации?
«Видео, созданные с помощью ИИ-моделей, содержат уникальные «отпечатки», которые можно выявить. Эти «отпечатки» возникают естественным образом при обучении модели и не могут быть полностью устранены.
Даже если человек не может отличить сгенерированное видео от настоящего, существуют модели, способные распознавать эти «отпечатки». В интернете уже есть сервисы-детекторы для определения сгенерированных видео. Их популярность растет вместе с ростом популярности ИИ-контента.
Каждый год появляются новые генераторы видео, «отпечатки» которых уникальны и могут быть не похожи на те, что были прежде. Поэтому детекторы сгенерированного контента приходится постоянно обновлять. Это постоянная гонка между улучшением генераторов и детекторов ИИ-контента.
Однако, если цель — запутать детектор, то это возможно. Например, с помощью понижения размерности, цветокоррекции и других операций, изменяющих видео. Это делает задачу выявления сгенерированного контента значительно более сложной. Не всегда возможно достоверно выявить такой контент.Таким образом, не всегда можно выявить ИИ-видео, но зачастую, с помощью других моделей, можно найти следы того, что видео было сгенерировано.» — Михаил Бохонко, создатель IT компании в сфере AI
Источник: linkedin
