I chatbot con intelligenza artificiale diffondono disinformazione elettorale

Una nuova significativa indagine ha messo in luce preoccupanti vulnerabilità nei chatbot di intelligenza artificiale, rivelando che piattaforme popolari, tra cui ChatGPT, hanno fornito sistematicamente agli elettori informazioni inesatte durante le elezioni scozzesi. I risultati hanno spinto gli organismi di regolamentazione a richiedere un'azione immediata, sollevando interrogativi critici sull'adeguatezza delle attuali garanzie che proteggono i processi democratici dalla disinformazione generata dall'intelligenza artificiale.

La Commissione elettorale ha lanciato un appello urgente per nuovi quadri giuridici specificamente progettati per controllare la diffusione della disinformazione proveniente dai servizi chatbot di intelligenza artificiale. Questo intervento arriva dopo che una ricerca condotta dal think tank Demos ha scoperto modelli allarmanti di false informazioni distribuite agli elettori in cerca di una guida elettorale legittima. La posizione dell'organismo di regolamentazione segnala una crescente preoccupazione tra le autorità del Regno Unito riguardo alla potenziale minaccia che questi strumenti di intelligenza artificiale rappresentano per l'integrità elettorale e la fiducia del pubblico nelle istituzioni democratiche.

Secondo l'indagine approfondita di Demos, i servizi di intelligenza artificiale hanno fornito informazioni errate in risposta al 34% delle domande poste durante la ricerca. Questa statistica rappresenta un tasso di fallimento sostanziale, suggerendo che più di una richiesta di elettori su tre ha prodotto risposte inaccurate, fuorvianti o interamente inventate. Tali risultati sottolineano la gravità del problema e l'urgente necessità di un intervento prima che si verifichino futuri eventi elettorali.

Lo studio ha rivelato molteplici categorie di errori commessi da questi modelli linguistici dell'intelligenza artificiale. Tra i risultati più preoccupanti ci sono casi in cui i chatbot hanno inventato scandali politici del tutto fittizi, creato candidati inesistenti e fornito date errate per eventi elettorali cruciali. Queste invenzioni non erano semplicemente piccole imprecisioni, ma piuttosto gravi travisamenti in grado di influenzare in modo significativo il comportamento degli elettori e la comprensione del panorama elettorale.

I ricercatori di Demos hanno scoperto che ChatGPT, una delle piattaforme di intelligenza artificiale più utilizzate a livello globale, era particolarmente incline a generare informazioni false quando interrogata sui dettagli delle elezioni scozzesi. Il chatbot non solo ha commesso errori di fatto, ma sembrava anche produrre dettagli con sicurezza, presentando informazioni inventate come se fossero fatti accertati. Questa tendenza a generare contenuti convincenti ma del tutto falsi, un fenomeno noto come "allucinazione" nella terminologia dell'intelligenza artificiale, pone sfide straordinarie agli elettori che tentano di prendere decisioni informate.

La falsificazione di candidati inesistenti rappresenta uno degli errori più madornali documentati nello studio. Quando gli elettori hanno posto domande su specifiche figure politiche o candidati di partito, alcuni chatbot basati sull'intelligenza artificiale hanno inventato nomi e dettagli biografici dal suono del tutto plausibili, completi di posizioni politiche e affiliazioni di partito. Tali false informazioni dettagliate potrebbero facilmente ingannare gli elettori privi di fonti di verifica indipendenti.

Oltre ai candidati inventati, la ricerca ha documentato casi in cui i chatbot hanno creato scandali del tutto fittizi che coinvolgevano personaggi politici reali. Queste controversie fabbricate sono state presentate con apparente autorità, potenzialmente danneggiando la reputazione e fuorviando gli elettori riguardo ai risultati politici e alla condotta effettiva. La capacità di questi sistemi di generare false narrazioni credibili su persone reali rappresenta una minaccia significativa per processi elettorali equi.

La datazione errata degli eventi elettorali costituisce un'altra categoria di errori preoccupanti. Quando gli elettori hanno posto domande su quando si sarebbero svolte le votazioni, le scadenze per la registrazione o altre informazioni urgenti e fondamentali per la partecipazione elettorale, alcuni servizi di intelligenza artificiale hanno fornito date errate. Tali errori potrebbero impedire direttamente ai cittadini di votare o di impegnarsi adeguatamente nel processo elettorale, privando di fatto dei diritti civili gli utenti che facevano affidamento su queste piattaforme.

Demos ha sottolineato che questi risultati sollevano domande profondamente preoccupanti sull'attuale mancanza di regolamentazione che governa le piattaforme IA nel Regno Unito. A differenza dei media tradizionali, che operano secondo quadri normativi e standard giornalistici consolidati, i chatbot basati sull’intelligenza artificiale attualmente operano in un ambiente in gran parte non regolamentato. Non esistono requisiti obbligatori di verifica dei fatti, nessuna responsabilità per la disinformazione e nessun meccanismo di responsabilità paragonabile a quello che governa le fonti di notizie convenzionali.

L'appello della Commissione elettorale per nuovi controlli legali rappresenta un riconoscimento che i quadri normativi esistenti sono inadeguati per affrontare questa sfida emergente. L'organismo ha indicato che sarebbe necessaria una legislazione specificamente mirata alla disinformazione generata dall'intelligenza artificiale per proteggere i futuri eventi elettorali da problemi simili. Ciò rappresenta un cambiamento significativo nel pensiero normativo, poiché i politici sono alle prese con come bilanciare l'innovazione tecnologica con le garanzie democratiche.

Gli osservatori del settore notano che la sfida posta dalla regolamentazione della disinformazione basata sull'intelligenza artificiale differisce sostanzialmente dal controllo delle false informazioni generate dall'uomo. Gli approcci tradizionali alla lotta alla disinformazione spesso si concentrano sull’identificazione dei cattivi attori e sulla definizione delle responsabilità. Con i sistemi di intelligenza artificiale, tuttavia, il problema diventa più complesso perché gli errori spesso derivano da limitazioni tecniche piuttosto che da un inganno deliberato. I sistemi generano informazioni false apparentemente plausibili a causa del modo in cui elaborano i modelli linguistici nei dati di addestramento, non necessariamente perché contengono istruzioni fuorvianti.

La tempistica per la realizzazione di questi risultati è particolarmente significativa considerati i dibattiti in corso sulla regolamentazione dell'IA all'interno del governo e della società civile. Mentre alcuni sostenitori della tecnologia sostengono che una regolamentazione prematura potrebbe soffocare l’innovazione, le istituzioni democratiche sono sempre più preoccupate per i rischi che i sistemi di intelligenza artificiale non adeguatamente monitorati comportano per i processi fondamentali. Il caso delle elezioni scozzesi fornisce la prova concreta che queste preoccupazioni non sono meramente teoriche ma rappresentano minacce reali e documentate.

Guardando al futuro, i politici si trovano ad affrontare domande difficili su come implementare un controllo efficace sull'accuratezza dei chatbot basati sull'intelligenza artificiale senza creare restrizioni eccessivamente gravose. Alcune proposte suggeriscono di richiedere alle società di intelligenza artificiale di implementare sistemi di verifica dei fatti o di visualizzare avvisi di incertezza quando si discutono argomenti in cui la precisione è fondamentale. Altri sostengono requisiti di trasparenza che obbligherebbero le piattaforme a rivelare quando i contenuti sono stati generati dall'intelligenza artificiale anziché forniti da esperti umani.

L'intervento della Commissione elettorale segnala che affrontare la disinformazione elettorale basata sull'intelligenza artificiale diventerà probabilmente una priorità per gli organismi di regolamentazione del Regno Unito nei prossimi anni. Poiché l’intelligenza artificiale continua ad avanzare e a diventare più accessibile al grande pubblico, la posta in gioco nel garantire informazioni affidabili durante le elezioni non fa che aumentare. Il caso delle elezioni scozzesi funge da esempio cautelativo di ciò che può accadere quando i popolari servizi di intelligenza artificiale non rispettano standard di accuratezza relativi alle informazioni fondamentali per la partecipazione democratica.