Тейлор Свифт борется с дипфейками искусственного интеллекта, продвигая товарные знаки

Решение Тейлор Свифт зарегистрировать свое изображение в качестве товарного знака представляет собой решающий поворотный момент в том, как знаменитости защищают себя от быстро развивающейся угрозы контента, создаваемого искусственным интеллектом. Юридический маневр поп-суперзвезды произошел в то время, когда технология искусственного интеллекта становится все более изощренной, позволяя мошенникам создавать убедительные мошеннические видеоролики, которые с пугающей точностью выдают себя за известных личностей. Эта защитная мера подчеркивает растущую актуальность создания законодательной базы, которая может решить уникальные проблемы, создаваемые синтетическими медиа в эпоху цифровых технологий.

Недавнее исследование, проведенное экспертами по цифровой безопасности, выявило тревожную тенденцию на платформах социальных сетей, в частности в TikTok, где фейковая реклама с изображениями знаменитостей используется в мошеннических целях. В этих сфальсифицированных видеороликах обычно показаны знаменитости, которые поддерживают сомнительные продукты или финансовые схемы, а синтетические кадры созданы так, чтобы выглядеть достаточно достоверными, чтобы обмануть ничего не подозревающих зрителей. Мошенники, стоящие за этими операциями, явно нацелены на личную информацию и финансовые данные пользователей, используя психологическое воздействие, когда знаменитость, которой доверяют, якобы рекомендует продукт или услугу.

Механика такого мошенничества обманчиво проста, но эффективна. Мошенники используют передовые инструменты создания видео с использованием искусственного интеллекта, чтобы накладывать лица знаменитостей на двойники, создавая кадры, имитирующие подлинные интервью или рекламный контент. После создания эти дипфейковые видео загружаются в TikTok и другие платформы, где они быстро становятся видимыми благодаря алгоритмическому продвижению. Видео обычно направляют зрителей на внешние ссылки или веб-сайты, где им предлагается ввести конфиденциальную информацию, такую как номера кредитных карт, идентификаторы социального страхования или банковские данные, под ложным предлогом получения призов или доступа к эксклюзивному контенту.