Hacker frustrati mentre i contenuti generati dall'intelligenza artificiale inondano i forum del dark web

La malavita digitale sta vivendo una frustrazione inaspettata: i criminali informatici sono sempre più irritati dalla proliferazione di contenuti generati dall'intelligenza artificiale che inondano i loro forum privati ​​e i canali di comunicazione. Quello che un tempo era uno spazio esclusivo per serie discussioni illegali sulle tecniche di hacking, sullo sviluppo di malware e sugli attacchi informatici coordinati, è diventato invaso da post di bassa qualità generati da macchine che molti autori di minacce esperti considerano rumore piuttosto che informazioni preziose.

Questo fenomeno rappresenta una curiosa intersezione tra la tecnologia dell'intelligenza artificiale e le comunità di criminali informatici. Man mano che gli strumenti di intelligenza artificiale sono diventati più accessibili e più facili da usare, gli autori malintenzionati con diversi livelli di sofisticazione hanno iniziato a implementare queste tecnologie indiscriminatamente nei forum clandestini e nei mercati del dark web. La conseguente ondata di testi generati dall'intelligenza artificiale, spesso scritti male, ripetitivi e contestualmente irrilevanti, ha creato notevoli attriti all'interno di comunità che in precedenza erano più curate ed esclusive.

I ricercatori e gli analisti della sicurezza informatica che monitorano questi spazi sotterranei hanno documentato numerose lamentele da parte di hacker affermati frustrati da ciò che colloquialmente chiamano "merda IA". Queste lamentele rivelano una vulnerabilità inaspettata nelle reti criminali: la stessa democratizzazione della tecnologia che consente ai principianti di partecipare ad attività criminali informatiche consente anche spam, contenuti di bassa qualità e interruzione dei canali di comunicazione consolidati. Gli amministratori del forum e i membri rispettati della comunità hanno iniziato a implementare politiche di moderazione dei contenuti più rigorose per combattere l'afflusso.

Il problema deriva in parte dall'esplosione di strumenti di intelligenza artificiale generativa disponibili al grande pubblico. Servizi come ChatGPT, Bard e altri modelli linguistici possono essere rapidamente adattati per scopi dannosi, tra cui la generazione automatizzata di post, la creazione di contenuti per campagne di phishing e lo spam nei forum prodotto in serie. I criminali informatici privi di competenze tecniche avanzate hanno trovato questi strumenti particolarmente utili per creare l'apparenza di attività e legittimità nelle loro operazioni, anche se la qualità dei contenuti generati è discutibile.

Un aspetto particolarmente notevole di questa tendenza è il modo in cui rispecchia i problemi sperimentati nelle comunità online legittime decenni prima. Proprio come forum, piattaforme di social media e forum hanno affrontato epidemie di spam negli anni ’90 e 2000, le comunità criminali si trovano ora ad affrontare sfide simili. La differenza è che gli autori di questo spam sono spesso altri criminali informatici che tentano di pubblicizzare i propri servizi, promuovere le proprie varianti di malware o semplicemente generare rumore per oscurare le loro attività effettive.

L'impatto sui forum di criminali informatici è stato sostanziale e multiforme. Gli hacker esperti riferiscono di dedicare molto più tempo a filtrare post irrilevanti per trovare discussioni legittime su nuove vulnerabilità, tecniche di exploit o opportunità di collaborazione. Questo degrado della qualità del forum ha spinto alcuni membri senior della comunità a migrare verso spazi più esclusivi, solo su invito, dove i requisiti di iscrizione e i processi di verifica possono tenere lontani i partecipanti di qualità inferiore e i bot spam automatizzati.

Gli amministratori dei forum in queste comunità hanno risposto con strategie di moderazione sempre più aggressive. Alcuni hanno implementato sfide in stile captcha, richiedono agli utenti di completare attività tecniche per dimostrare la propria esperienza o richiedono pagamenti in criptovaluta per mantenere account attivi. Queste misure hanno un duplice scopo: riducono lo spam e i post poco impegnativi e allo stesso tempo creano barriere finanziarie che scoraggiano i partecipanti occasionali o inesperti.

La situazione riflette anche tensioni più ampie all'interno degli ecosistemi criminali informatici per quanto riguarda professionalità e competenze. Gli autori di minacce affermati che hanno investito anni nello sviluppo di sofisticate capacità di hacking spesso vedono i nuovi arrivati ​​che si affidano a strumenti di intelligenza artificiale e kit di exploit prontamente disponibili come minacce alla sicurezza operativa e agli standard professionali. Questi criminali veterani temono che una maggiore partecipazione da parte di individui meno qualificati aumenti la probabilità di infiltrazioni delle forze dell'ordine e di eliminazioni coordinate.

Dal punto di vista della difesa della sicurezza informatica, questa interruzione interna presenta un paradosso interessante. Se da un lato l’inondazione dei forum criminali con contenuti generati dall’intelligenza artificiale crea sfide per le forze dell’ordine che monitorano questi spazi, dall’altro indica allo stesso tempo che gli strumenti di intelligenza artificiale si stanno democratizzando nel panorama delle minacce. Ciò suggerisce che i futuri attacchi informatici potrebbero diventare più numerosi e di qualità più variabile, richiedendo ai difensori di prepararsi sia a minacce mirate sofisticate che ad attacchi basati sul volume da parte di attori meno capaci.

Gli esperti del settore sottolineano inoltre che questa tendenza potrebbe avere conseguenze indesiderate per le operazioni organizzate dei criminali informatici. Quando i forum diventano inaffidabili come canali di comunicazione a causa dello spam e dei contenuti di bassa qualità, i gruppi criminali possono cercare piattaforme alternative o sviluppare metodi di comunicazione più privati ​​e decentralizzati. Ciò potrebbe rendere potenzialmente più difficile l'individuazione di alcune operazioni criminali, ma allo stesso tempo frammentare la condivisione collettiva delle conoscenze che caratterizza le grandi comunità di forum.

Il ruolo della tecnologia AI nello smantellare le comunità criminali solleva anche interrogativi sull'efficacia degli attuali approcci alla sicurezza informatica. Se l’intelligenza artificiale può inavvertitamente danneggiare l’infrastruttura delle imprese criminali, potrebbe essere deliberatamente utilizzata come arma per scopi difensivi? Alcune aziende di sicurezza informatica stanno esplorando questa possibilità, indagando se l'implementazione controllata di disinformazione o spam generati dall'intelligenza artificiale potrebbe interrompere reti criminali note.

Guardando al futuro, il rapporto tra intelligenza artificiale e criminalità informatica diventerà probabilmente sempre più complesso. Man mano che gli strumenti di intelligenza artificiale diventano più sofisticati, i criminali informatici potrebbero trovare usi migliori per queste tecnologie automatizzando gli attacchi, generando contenuti di phishing più convincenti e scoprendo nuove vulnerabilità nei sistemi. Allo stesso tempo, l'attuale problema dell'inondazione di spam nei forum suggerisce che l'implementazione di maggiori controlli sullo sviluppo e l'implementazione dell'intelligenza artificiale potrebbe avere vantaggi inaspettati per la difesa della sicurezza informatica.

Le denunce provenienti dai forum dei criminali informatici evidenziano in definitiva una realtà importante: la rivoluzione tecnologica colpisce tutte le comunità, legali e non. Gli stessi strumenti che danno potere ai creatori legittimi consentono anche spam e abusi e, quando tali strumenti diventano ampiamente disponibili, anche le comunità esclusive non possono isolarsi completamente dai loro effetti. Per i professionisti della sicurezza informatica che monitorano questi spazi, il degrado della qualità dei forum serve a ricordare che le imprese criminali devono affrontare le proprie sfide operative, anche se continuano a rappresentare minacce significative per organizzazioni e individui in tutto il mondo.