Дипфейки Тейлор Свифт подпитывают эпидемию мошенничества в TikTok

Созданные искусственным интеллектом дипфейки Тейлор Свифт и других знаменитостей используются в мошеннических мошеннических целях в TikTok. Узнайте, как действуют мошенники, и защитите себя.
Мошенники все чаще используют дипфейки, созданные с помощью искусственного интеллекта известных знаменитостей, в том числе Тейлор Свифт и Рианну, для реализации мошеннических схем в TikTok. По данным компании Copyleaks, занимающейся аутентификацией, эти изощренные мошенничества представляют собой растущую угрозу для пользователей социальных сетей, которые могут непреднамеренно стать жертвой кражи личных данных и финансового мошенничества.
В мошеннических рекламных объявлениях знаменитости обычно представлены в тщательно продуманных сценариях, призванных выглядеть достоверными и заслуживающими доверия. В этих видеороликах фальшивые знаменитости появляются в таких местах, как интервью на красных дорожках, записи подкастов и выступления в ток-шоу. Мошенники часто манипулируют подлинными отснятыми материалами, используя передовые технологии искусственного интеллекта, создавая составные видеоролики, в которых реальные элементы органично сочетаются с искусственным контентом. Такое сочетание делает обман особенно убедительным для ничего не подозревающих зрителей.
Одна из наиболее распространенных схем включает в себя программы фальшивых вознаграждений, которые обещают пользователям заработать значительные деньги, просто просматривая контент TikTok и оставляя отзывы. Эти рекламные объявления часто включают официальный брендинг и логотипы TikTok, создавая ложное впечатление, что сама платформа поддерживает эти программы. Однако когда пользователи переходят по ссылке, они перенаправляются на сторонние веб-сайты и службы, которые работают за пределами экосистемы и контроля TikTok.
Аспект мошенничества со сбором личной информации представляет собой наиболее опасный компонент. После перенаправления на эти мошеннические сторонние платформы пользователям предлагается ввести конфиденциальные данные, включая их имена, адреса электронной почты, номера телефонов и, в некоторых случаях, финансовую информацию. Собранные данные становятся ценными для киберпреступников, которые могут использовать их для кражи личных данных, несанкционированных финансовых транзакций или продажи информации другим злоумышленникам в темной сети.
Что делает эти мошеннические фейки особенно коварными, так это их техническая сложность и психологические манипуляции. Мошенники понимают, что поддержка знаменитостей имеет значительный вес у аудитории. Используя технологию deepfake, они могут создавать убедительные видеоролики, не требуя реального участия самих знаменитостей. В видеороликах знаменитости часто разговаривают напрямую со зрителями, создавая ложное ощущение личной рекомендации и доверия.
Огромная база пользователей TikTok, которая состоит из более молодых и потенциально более уязвимых для таких схем, делает платформу идеальным местом охоты для мошенников. Алгоритмическая система распространения контента платформы может быстро распространить эти вредоносные видео среди миллионов пользователей до того, как вмешается команда модераторов. Кроме того, формат короткого видео упрощает создание убедительных фрагментов, которым не хватает контекста и внимания, как у более длинного контента.
<изображение src="https://platform.theverge.com/wp-content/uploads/sites/2/2026/04/gettyimages-226799 5710.jpg?quality=90&strip=all&crop=0.0041611185086552%2C0%2C99.991677762983%2C100&w=2400" alt="Интерфейс мошеннической рекламы, показывающий поддержку знаменитостей" />Появление этих фейковых рекламных объявлений со знаменитостями подчеркивает двойственную природу технологии искусственного интеллекта. Хотя искусственный интеллект предлагает огромные преимущества творческим индустриям и законным приложениям, злоумышленники быстро адаптировали эту технологию для мошеннических целей. Барьер для создания убедительных дипфейков становится все более низким благодаря доступным инструментам и учебным пособиям, доступным в Интернете.
Помимо Тейлор Свифт и Рианны, компания Copyleaks, занимающаяся аутентификацией, указывает, что многие другие знаменитости и общественные деятели были украдены и использованы в аналогичных мошеннических целях. Масштаб проблемы распространяется на множество отраслей и слоев знаменитостей, затрагивая всех: от поп-звезд до спортсменов и влиятельных лиц. Некоторые жертвы этих дипфейковых схем сообщали о том, что получали нежелательные контакты от людей, которые утверждали, что видели фейковые видеоролики, рекламирующие различные незаконные схемы.
Правовая и нормативная база, связанная с мошенничеством с дипфейками, остается неясной и недостаточно развитой. Хотя в некоторых юрисдикциях уже начали действовать законы против злонамеренных дипфейков, их соблюдение остается сложной задачей из-за децентрализованного характера Интернета и сложности выявления преступников, действующих из зарубежных стран. TikTok и другие платформы сталкиваются с растущим давлением, требующим внедрения более надежных систем обнаружения и политик модерации контента.
Эксперты по безопасности рекомендуют пользователям, желающим не стать жертвами этих схем, ряд защитных мер. Во-первых, пользователи должны скептически относиться к любой поддержке знаменитостей, с которой они сталкиваются в социальных сетях, особенно к тем, которые предлагают денежное вознаграждение за минимальные усилия. Законные компании редко запрашивают личную информацию заранее через рекламу в социальных сетях. Пользователи должны самостоятельно проверять любые утверждения, посещая официальные сайты напрямую, а не нажимая на ссылки в социальных сетях.
Кроме того, распознавание явных признаков дипфейков может помочь пользователям идентифицировать мошеннический контент. К ним могут относиться неестественные движения лица, нестабильное освещение, проблемы с аудиовизуальной синхронизацией или другие незначительные артефакты, раскрывающие искусственный характер видео. Однако по мере совершенствования технологии дипфейков эти визуальные индикаторы становится все труднее обнаружить без специальных инструментов.
Роль ответственности платформы в преодолении этого кризиса невозможно переоценить. TikTok предпринял некоторые меры по борьбе с мошенническим контентом, но критики утверждают, что этих усилий недостаточно, учитывая масштабы и изощренность современного мошенничества. Платформа столкнулась с необходимостью усовершенствовать системы модерации контента, внедрить более строгие процессы проверки рекламодателей и предоставлять более четкие предупреждения пользователям о подозрительных предложениях.
Эксперты предполагают, что для эффективной борьбы с мошенничеством с дипфейками потребуется многоуровневый подход с участием технологических компаний, правоохранительных органов, регулирующих органов и обучения пользователей. Технологические компании должны инвестировать в системы обнаружения на базе искусственного интеллекта, способные выявлять фейковые видео в больших масштабах. Между тем правоохранительным органам необходимы ресурсы и опыт для преследования киберпреступников, участвующих в этих схемах, особенно тех, которые действуют на международном уровне.
Для самих знаменитостей рост числа дипфейковых мошенничеств представляет собой серьезную угрозу их публичному имиджу и безопасности. Некоторые начали публиковать заявления, предупреждающие фанатов о мошеннических дипфейках с использованием их изображений. Другие подали в суд на создателей дипфейков, хотя юрисдикционные сложности часто затрудняют судебное преследование. Эта ситуация побудила принять более строгие законы, специально направленные против злонамеренных дипфейков и мошенничества с использованием искусственного интеллекта.
Поскольку технологии искусственного интеллекта продолжают развиваться быстрыми темпами, вероятность неправомерного использования растет вместе с законными приложениями. Мошенничество с дипфейками Тейлор Свифт представляет собой лишь одно проявление более широкой проблемы, которую общество должно решать комплексно. Без существенных действий со стороны множества заинтересованных сторон эти схемы, вероятно, станут более распространенными и сложными. Информированность и образование остаются важнейшими первыми шагами в защите уязвимых пользователей от развивающихся цифровых угроз.
Источник: The Verge


