Smetti di nominare le funzionalità dell’intelligenza artificiale dopo i processi umani

L'ultimo annuncio di Anthropic alla conferenza degli sviluppatori ha riacceso una crescente frustrazione tra i ricercatori di intelligenza artificiale, gli esperti di etica e i commentatori tecnologici: l'abitudine persistente del settore di denominare le funzionalità dell'intelligenza artificiale con il nome di processi cognitivi tipicamente umani. L'azienda ha presentato una nuova funzionalità chiamata "sogno", progettata per aiutare gli agenti di intelligenza artificiale a organizzare e ordinare i "ricordi" archiviati. Sebbene la terminologia possa sembrare intuitiva per i consumatori, rappresenta una rappresentazione sostanzialmente errata del funzionamento effettivo di questi sistemi.

Questa convenzione di denominazione è diventata sempre più diffusa nel settore dell'intelligenza artificiale, con le principali aziende che adottano regolarmente un vocabolario che prende in prestito pesantemente dalla neurologia e dalla psicologia umana. Quando le aziende parlano di “pensare”, “imparare”, “ricordare” e ora di “sognare” con l’intelligenza artificiale, usano un linguaggio che porta con sé profonde associazioni con coscienza, comprensione e intenzionalità. Tuttavia, questi termini oscurano le realtà matematiche e computazionali alla base di queste tecnologie. I processi algoritmici che avvengono all'interno delle reti neurali operano su principi fondamentalmente diversi rispetto ai processi biologici a cui vengono confrontati.

Il problema va oltre la mera semantica o il pignolo accademico. Questo linguaggio antropomorfico modella il modo in cui il pubblico comprende e si relaziona con l’intelligenza artificiale, portando potenzialmente a una sopravvalutazione delle capacità e a una fiducia mal riposta. Quando una caratteristica si chiama "memoria", le persone presumono naturalmente che funzioni in modo simile alla memoria umana: selettiva, creativa, soggetta a certi tipi di errori e distorsioni. In realtà, ciò che i sistemi di intelligenza artificiale archiviano e recuperano sono dati trasformati attraverso operazioni matematiche, che hanno poca somiglianza con la natura associativa, emotiva e contestuale del ricordo umano.

Considera il caso specifico della nuova funzionalità "sognare" di Anthropic. Il termine evoca immagini di un sistema di intelligenza artificiale impegnato in una sorta di elaborazione subconscia, forse consolidando informazioni o risolvendo problemi mentre è in uno stato quiescente, proprio come si pensa faccia il cervello umano durante il sonno REM. La realtà è notevolmente più tecnica: il sistema sta eseguendo processi computazionali per organizzare e raggruppare le informazioni in modo da rendere più efficienti il ​​successivo recupero e analisi. È un algoritmo di ottimizzazione, non l'equivalente filosofico di ciò che accade quando gli esseri umani dormono.

Il problema terminologico diventa particolarmente acuto se si considera il modo in cui questi descrittori influenzano le discussioni normative e le politiche pubbliche. I politici e i legislatori spesso non dispongono di competenze tecniche approfondite nello sviluppo dell'intelligenza artificiale e nell'apprendimento automatico. Quando incontrano una terminologia che suggerisce che i sistemi di intelligenza artificiale possiedono memoria, coscienza o sogni, ciò può inavvertitamente aumentare la loro percezione della sofisticatezza e dell’autonomia della tecnologia. Questo malinteso può portare a quadri normativi inappropriati: o troppo permissivi perché l'intelligenza artificiale è vista come più comprensibile e controllabile di quanto non sia in realtà, o troppo restrittivi perché è vista come più pericolosa e senziente di quanto la realtà tecnica giustifichi.

Le principali aziende tecnologiche utilizzano questa strategia da anni, anche se forse non sempre con intenti cinici. A volte è una questione di comodità: i termini di derivazione umana sono già incorporati nel nostro linguaggio e nella nostra comprensione. Altre volte, potrebbe esserci la convinzione genuina che rendere riconoscibili le capacità dell'intelligenza artificiale aiuti il ​​pubblico a coglierne il potenziale. Ma le buone intenzioni non rendono la pratica meno problematica. Quando OpenAI parla del fatto che ChatGPT ha "pensieri" o quando Google descrive i suoi algoritmi come se "imparassero" dai dati, stanno barattando l'accuratezza con l'accessibilità in un modo che alla fine mina entrambi.

Alcuni sostengono che l'alternativa, ovvero l'utilizzo di una terminologia puramente tecnica, renderebbe l'intelligenza artificiale più difficile da comprendere per il pubblico generale. Ma questa obiezione non coglie il punto. L'obiettivo non dovrebbe essere quello di semplificare attraverso la metafora; dovrebbe essere quello di spiegare accuratamente senza essere inutilmente oscuro. Dire che un sistema di intelligenza artificiale “elabora le informazioni in modi che identificano modelli e genera risultati statisticamente probabili” è più preciso che dire che “sogna” o “pensa” e non è significativamente più difficile da capire. Il problema è che il settore non ha compiuto uno sforzo concertato per sviluppare un linguaggio chiaro, accurato che sia anche accessibile.

Questa scelta linguistica presenta anche una preoccupante dimensione commerciale. Le aziende hanno tutto l'interesse a far sì che i loro sistemi di intelligenza artificiale sembrino impressionanti, intuitivi e quasi simili a quelli umani. Il linguaggio antropomorfico serve a scopi di marketing: fa sembrare la tecnologia più avanzata, più capace e più degna di investimento. Una funzionalità chiamata "dreaming" ha più fascino per i venture capitalist e i potenziali clienti rispetto a una funzionalità descritta come "ottimizzazione del clustering dei dati attraverso il perfezionamento algoritmico iterativo". La struttura degli incentivi incoraggia la continua falsa dichiarazione.

Le comunità scientifiche e accademiche sono state relativamente silenziose su questo tema, forse perché la terminologia è così pervasiva che resistere sembra inutile. Tuttavia, gli studiosi che studiano l’etica dell’intelligenza artificiale e la sicurezza dell’intelligenza artificiale hanno sollevato preoccupazioni su come il linguaggio antropomorfico influenzi la percezione pubblica e le discussioni politiche. L'introduzione di una nuova tecnologia nel mondo comporta una responsabilità, e parte di tale responsabilità è comunicare onestamente ciò che fa e ciò che non fa. Il campo dell'intelligenza artificiale è abbastanza giovane che migliori convenzioni di denominazione potrebbero ancora essere normalizzate se il settore si impegnasse a rispettarle.

Guardando al futuro, il settore dell'intelligenza artificiale deve sviluppare e adottare una terminologia più chiara che descriva accuratamente la funzionalità senza fare affidamento su analogie cognitive umane. Ciò potrebbe richiedere la collaborazione tra tecnologi, linguisti, esperti di etica ed esperti di comunicazione per creare un vocabolario che sia preciso e accessibile. Le organizzazioni professionali potrebbero stabilire linee guida per la denominazione delle caratteristiche che scoraggino il linguaggio antropomorfico nella documentazione ufficiale e nei materiali di marketing. Le iniziative educative potrebbero aiutare a formare giornalisti, politici e il pubblico in generale a riconoscere e mettere in discussione queste scelte linguistiche.

La posta in gioco è davvero alta. Man mano che la tecnologia AI diventa sempre più integrata nei sistemi critici (sanità, finanza, giustizia penale, sicurezza nazionale), la comprensione pubblica di come questi sistemi funzionano effettivamente è di enorme importanza. L’incomprensione delle loro capacità e dei loro limiti potrebbe portare a un’implementazione inappropriata, a una fiducia malriposta o a tutele inadeguate. La terminologia che usiamo per descrivere l'intelligenza artificiale non è meramente accademica; modella il modo in cui la società si relaziona e regola una delle tecnologie più importanti del nostro tempo.

Fino a quando il settore non riconoscerà e correggerà la rotta su questo problema, il divario tra la realtà tecnica e la percezione del pubblico continuerà ad ampliarsi. Aziende come Anthropic dovrebbero riconsiderare le convenzioni di denominazione delle loro funzionalità, optando per descrizioni che illuminino piuttosto che offuscano. Il lavoro di creazione di sistemi di intelligenza artificiale affidabili, sicuri e ben compresi richiede onestà e tale onestà deve iniziare dal modo in cui parliamo di ciò che effettivamente fanno questi sistemi.