I deepfake di Taylor Swift alimentano l'epidemia di truffe su TikTok

I truffatori sfruttano sempre più i deepfake generati dall'intelligenza artificiale di grandi celebrità, tra cui Taylor Swift e Rihanna, per perpetrare schemi fraudolenti su TikTok. Secondo i risultati della società di autenticazione Copyleaks, queste truffe sofisticate rappresentano una minaccia crescente per gli utenti dei social media che potrebbero inavvertitamente cadere vittime di furti di identità e frodi finanziarie.

Le pubblicità fraudolente in genere presentano celebrità in scenari attentamente realizzati per apparire autentici e affidabili. Questi video collocano le celebrità deepfake in ambienti di interviste come tappeti rossi, registrazioni di podcast e apparizioni in talk show. I truffatori spesso manipolano filmati autentici utilizzando la tecnologia AI avanzata, creando video compositi che fondono perfettamente elementi reali con contenuti artificiali. Questa combinazione rende l'inganno particolarmente convincente per gli spettatori ignari.

Uno degli schemi più comuni prevede programmi di premi falsi che promettono agli utenti di guadagnare denaro significativo semplicemente guardando i contenuti di TikTok e fornendo feedback. Questi annunci spesso incorporano il marchio e i loghi ufficiali di TikTok, creando la falsa impressione che la piattaforma stessa approvi questi programmi. Tuttavia, quando gli utenti fanno clic, vengono reindirizzati a siti Web e servizi di terze parti che operano al di fuori dell'ecosistema e della supervisione di TikTok.

L'aspetto della raccolta di informazioni personali di queste truffe rappresenta la componente più pericolosa. Una volta reindirizzati a queste piattaforme fraudolente di terze parti, agli utenti viene richiesto di inserire dati sensibili tra cui nomi, indirizzi e-mail, numeri di telefono e, in alcuni casi, informazioni finanziarie. Questi dati raccolti diventano preziosi per i criminali informatici che possono utilizzarli per furti di identità, transazioni finanziarie non autorizzate o vendita di informazioni ad altri malintenzionati sul Dark Web.

Ciò che rende queste truffe deepfake particolarmente insidiose è la loro sofisticatezza tecnica e la manipolazione psicologica. I truffatori comprendono che le sponsorizzazioni di celebrità hanno un peso significativo per il pubblico. Utilizzando la tecnologia deepfake, possono creare video convincenti senza richiedere il coinvolgimento effettivo delle celebrità stesse. Nei video spesso le celebrità parlano direttamente agli spettatori, creando un falso senso di raccomandazione personale e fiducia.

L'enorme base di utenti di TikTok, che tende a essere più giovane e potenzialmente più vulnerabile a tali schemi, rende la piattaforma un terreno di caccia ideale per i truffatori. Il sistema di distribuzione dei contenuti basato su algoritmi della piattaforma può diffondere rapidamente questi video dannosi a milioni di utenti prima che i team di moderazione possano intervenire. Inoltre, il formato video breve semplifica la creazione di snippet convincenti privi del contesto e del controllo dei contenuti di forma più lunga.

L'emergere di queste pubblicità deepfake di celebrità evidenzia la natura ambigua della tecnologia dell'intelligenza artificiale. Sebbene l’intelligenza artificiale offra enormi vantaggi per le industrie creative e le applicazioni legittime, i malintenzionati hanno rapidamente adattato la stessa tecnologia per scopi fraudolenti. La barriera all'ingresso per creare deepfake convincenti è diventata sempre più bassa, con strumenti accessibili e tutorial disponibili online.

Oltre a Taylor Swift e Rihanna, la società di autenticazione Copyleaks indica che numerose altre celebrità e personaggi pubblici hanno subito il furto e l'uso improprio delle loro sembianze in truffe simili. La portata del problema si estende a molteplici settori e livelli di celebrità, colpendo tutti, dalle pop star tradizionali agli atleti e agli influencer. Alcune vittime di questi schemi deepfake hanno riferito di aver ricevuto contatti non richiesti da persone che affermavano di aver visto video falsi che promuovevano vari schemi illegali.

Il panorama legale e normativo che circonda la frode deepfake rimane oscuro e sottosviluppato. Sebbene alcune giurisdizioni abbiano iniziato ad attuare leggi contro i deepfake dannosi, l’applicazione rimane difficile a causa della natura decentralizzata di Internet e della difficoltà di identificare gli autori che operano da paesi stranieri. TikTok e altre piattaforme si trovano ad affrontare una pressione crescente per implementare sistemi di rilevamento e politiche di moderazione dei contenuti più robusti.

Gli esperti di sicurezza raccomandano diverse misure protettive per gli utenti che cercano di evitare di cadere vittime di questi schemi. In primo luogo, gli utenti dovrebbero essere scettici nei confronti delle sponsorizzazioni di celebrità che incontrano sui social media, in particolare quelle che promuovono ricompense in denaro con il minimo sforzo. Le aziende legittime raramente chiedono informazioni personali in anticipo attraverso le pubblicità sui social media. Gli utenti devono verificare in modo indipendente eventuali affermazioni visitando direttamente i siti Web ufficiali anziché fare clic sui collegamenti dai post sui social.

Inoltre, riconoscere i segni rivelatori di deepfake può aiutare gli utenti a identificare i contenuti fraudolenti. Questi possono includere movimenti facciali innaturali, illuminazione incoerente, problemi di sincronizzazione audiovisiva o altri artefatti sottili che rivelano la natura artificiale del video. Tuttavia, con il miglioramento della tecnologia deepfake, questi indicatori visivi diventano più difficili da rilevare senza strumenti specializzati.

Il ruolo della responsabilità della piattaforma non può essere sopravvalutato nell'affrontare questa crisi. TikTok ha implementato alcune misure per combattere i contenuti fraudolenti, ma i critici sostengono che questi sforzi rimangono insufficienti data la portata e la sofisticatezza delle truffe moderne. La piattaforma ha subito pressioni per migliorare i sistemi di moderazione dei contenuti, implementare processi di verifica degli inserzionisti più rigorosi e fornire avvisi più chiari agli utenti sulle offerte sospette.

Gli esperti suggeriscono che per combattere efficacemente le truffe deepfake sarà necessario un approccio a più livelli che coinvolga aziende tecnologiche, forze dell'ordine, regolatori e formazione degli utenti. Le aziende tecnologiche devono investire in sistemi di rilevamento basati sull’intelligenza artificiale in grado di identificare video falsi su larga scala. Nel frattempo, le forze dell'ordine hanno bisogno di risorse e competenze per perseguire i criminali informatici coinvolti in questi schemi, in particolare quelli che operano a livello internazionale.

Per le celebrità stesse, l'aumento delle truffe deepfake rappresenta una seria sfida per la loro immagine pubblica e la loro sicurezza. Alcuni hanno iniziato a rilasciare dichiarazioni che avvertono i fan riguardo ai deepfake fraudolenti che utilizzano le loro sembianze. Altri hanno intrapreso azioni legali contro i creatori di deepfake, anche se le complessità giurisdizionali spesso rendono difficile il perseguimento giudiziario. La situazione ha spinto a chiedere leggi più severe che affrontino specificamente i deepfake dannosi e le frodi generate dall'intelligenza artificiale.

Poiché la tecnologia dell'intelligenza artificiale continua ad avanzare a un ritmo rapido, il potenziale di abusi aumenta insieme alle applicazioni legittime. Le truffe deepfake di Taylor Swift rappresentano solo una manifestazione di un problema più ampio che la società deve affrontare in modo completo. Senza un’azione significativa da parte di più parti interessate, è probabile che questi programmi diventino più diffusi e sofisticati. La sensibilizzazione e l'educazione rimangono i primi passi fondamentali per proteggere gli utenti vulnerabili da queste minacce digitali in continua evoluzione.