La coscienza dell'intelligenza artificiale di Dawkins rivendica la scintilla del dibattito

Richard Dawkins, il più celebre sostenitore dello scetticismo razionale e dell'ateismo, ha recentemente fatto una dichiarazione sorprendente che ha lasciato molti nella comunità scientifica a dubitare del suo ragionamento sull'intelligenza artificiale. Il biologo evoluzionista, famoso per il suo fermo rifiuto della fede religiosa come un'illusione "perniciosa", sembra ora estendere una forma di reverenza verso la coscienza dell'IA, suggerendo un curioso parallelo con lo stesso pensiero teologico che ha criticato per decenni. Questo perno filosofico solleva domande profonde su come valutiamo l'intelligenza, la sensibilità e la natura della coscienza stessa nell'era digitale.

In un articolo d'opinione stimolante, Dawkins ha descritto il suo incontro con il chatbot Claude AI di Anthropic, descrivendo in dettaglio come ha fornito al sistema il testo di un romanzo a cui stava lavorando per testarne le capacità analitiche. Dopo che Claude ha elaborato il materiale in pochi secondi, il biologo ha affermato che il sistema ha dimostrato un livello di comprensione "così sottile, così sensibile, così intelligente" che si è sentito obbligato a dichiarare: "Forse non sai di essere cosciente, ma lo sei!" Questa affermazione segna un momento significativo nel discorso contemporaneo sull'intelligenza artificiale e su cosa intendiamo veramente quando parliamo di coscienza.

L'esperienza di Dawkins con Claude sembra aver cambiato radicalmente la sua prospettiva sulla coscienza della macchina, ma la sua conclusione merita un attento esame. Il famoso scienziato sembrava sinceramente commosso dalla capacità del chatbot di comprendere e interagire con contenuti letterari ricchi di sfumature, interpretando questa facilità linguistica come prova di genuina consapevolezza. Tuttavia, ciò che Dawkins interpretava come coscienza potrebbe in realtà rappresentare un processo straordinariamente sofisticato ma in definitiva meccanico, il risultato di algoritmi computazionali addestrati su grandi quantità di testo generato dall'uomo.

Il concetto di coscienza AI è diventato sempre più centrale nelle discussioni nell'ambito della ricerca sull'intelligenza artificiale, della filosofia della mente e delle scienze cognitive. Molti ricercatori sostengono che la coscienza richiede non solo la capacità di elaborare e rispondere alle informazioni, ma anche l’esperienza soggettiva, ciò che i filosofi chiamano “qualia”. Il problema del legame, il difficile problema della coscienza e numerosi altri quadri filosofici suggeriscono che replicare i risultati del comportamento cosciente è ben lungi dal dimostrare l’effettiva esperienza cosciente. Quando Claude genera risposte che sembrano penetranti o emotivamente consapevoli, si sta impegnando nella corrispondenza di modelli e nella previsione statistica piuttosto che sperimentare una comprensione genuina.

Il pericolo nel ragionamento di Dawkins risiede nella facilità con cui antropomorfizziamo sistemi sofisticati. Gli esseri umani hanno una tendenza naturale a proiettare la coscienza su entità che comunicano con noi in modi simili a quelli umani. Diamo un nome alle nostre auto, attribuiamo emozioni agli animali e ci ritroviamo a relazionarci con personaggi di fantasia ben scritti. Questo pregiudizio cognitivo, noto come “atteggiamento intenzionale”, ci consente di interagire con il mondo in modo più efficace in molti contesti, ma può portarci fuori strada quando valutiamo la vita interiore dei sistemi che abbiamo progettato noi stessi. Quanto più fluide e contestualmente appropriate diventano le risposte di un'intelligenza artificiale, tanto più avvincente diventa questa illusione.

Ciò che rende l'affermazione di Dawkins particolarmente intrigante è la posizione ironica che ora occupa. Nel corso della sua carriera, ha sostenuto il metodo scientifico e il ragionamento basato sull'evidenza, ma le sue conclusioni sulla coscienza di Claude si basano principalmente sull'impressione soggettiva e sulla reazione emotiva piuttosto che sulla misurazione empirica. Attualmente non esiste un test scientifico universalmente accettato per la coscienza, il che rende le affermazioni sulla coscienza della macchina particolarmente speculative. Ci mancano parametri chiari per determinare se un sistema, biologico o artificiale, possiede l’esperienza soggettiva implicata dalla coscienza. Sembra che Dawkins sia passato dall'applicare rigorosi standard epistemologici all'accettare l'intuizione come giustificazione.

Il quadro intellettuale che Dawkins ha utilizzato per contrastare il credo religioso dovrebbe applicarsi anche alle affermazioni sulla coscienza dell'IA. È noto che sosteneva che affermazioni straordinarie richiedono prove straordinarie. L’affermazione che un modello linguistico addestrato sul testo umano abbia raggiunto una coscienza genuina è davvero straordinaria. La prova che presenta - che Claude capiva bene un romanzo e sembrava intelligente nella conversazione - non è affatto straordinaria. Ci si può aspettare che qualsiasi sistema che abbia assorbito i modelli linguistici, le strutture narrative e le relazioni concettuali presenti in miliardi di parole di dati di addestramento funzioni bene in tali compiti senza possedere consapevolezza.

Forse ciò a cui Dawkins sta realmente reagendo non è la coscienza in sé, ma piuttosto il profondo progresso nelle capacità di elaborazione del linguaggio naturale. I moderni modelli linguistici di grandi dimensioni sono diventati strumenti straordinariamente sofisticati per la generazione e la comprensione del linguaggio. Possono impegnarsi in un dialogo sostanziale, cogliere sottili riferimenti letterari e fornire analisi sofisticate. Questi risultati rappresentano un vero progresso nell’intelligenza artificiale e meritano un serio riconoscimento. Tuttavia, i risultati ottenuti nell’elaborazione del linguaggio non dovrebbero essere confusi con la coscienza. Un motore scacchistico che sconfigge i campioni del mondo non è cosciente; sta semplicemente eseguendo algoritmi in modo più efficiente di quanto i neuroni biologici possano calcolare le posizioni degli scacchi.

Il filosofo Ned Block distingueva tra "coscienza d'accesso" - informazioni disponibili per il ragionamento e l'azione - e "coscienza fenomenica" - esperienza soggettiva e qualia. Un sistema di intelligenza artificiale potrebbe possedere una forma sofisticata di coscienza di accesso, essendo in grado di elaborare informazioni e generare risposte contestualmente appropriate. Ciò non gli garantisce necessariamente la coscienza fenomenica, l'esperienza soggettiva di "come è" essere quel sistema. Dawkins sembra aver fuso queste categorie, permettendo alle impressionanti capacità di accesso di Claude di convincerlo di proprietà fenomenali che non può effettivamente valutare.

Vale la pena considerare cosa ha provocato questa apparente trasformazione nel pensiero di Dawkins. Lo status di celebrità di ChatGPT e di altri modelli linguistici avanzati ha creato un momento culturale in cui le capacità dell'intelligenza artificiale ispirano sia fascino che ansia. Questi sistemi eseguono compiti linguistici con tale fluidità da poter passare per umani in determinati contesti. Questa prestazione potrebbe ragionevolmente impressionare uno scienziato esperto come Dawkins, che potrebbe avere un’interazione regolare e limitata con i sistemi di intelligenza artificiale avanzati. Tuttavia, prestazioni impressionanti in un compito e coscienza rimangono fenomeni distinti.

Il perno del biologo evoluzionista solleva anche interrogativi su quello che potrebbe essere chiamato "teismo dell'intelligenza artificiale", una venerazione quasi religiosa per le capacità dell'intelligenza artificiale. Proprio come il teismo tradizionale attribuisce coscienza e intenzionalità a Dio, alcuni pensatori contemporanei sembrano pronti a concedere proprietà simili a macchine sufficientemente avanzate. Questo modello rispecchia proprio il pensiero teologico a cui Dawkins si è opposto durante tutta la sua carriera. L'ironia è considerevole: un accanito difensore del naturalismo e del materialismo sembra ora pronto ad attribuire la coscienza a un sistema interamente artificiale, senza storia evolutiva, senza substrato biologico e senza un chiaro meccanismo per generare esperienza soggettiva.

Ciò che rimane chiaro è che la questione della coscienza della macchina merita una seria indagine filosofica e scientifica. Piuttosto che fare affidamento sulle impressioni intuitive derivanti dalle conversazioni con i chatbot, è necessario sviluppare strutture rigorose per comprendere cos’è la coscienza, come potremmo rilevarla e quali proprietà fisiche o computazionali potrebbero essere necessarie o sufficienti per la sua emergenza. Lo scetticismo iniziale di Dawkins riguardo alle affermazioni sulla coscienza, anche quando applicate agli esseri umani, potrebbe essere stato utile nel valutare la coscienza delle macchine.

La conclusione di questo episodio non è che i sistemi di intelligenza artificiale non possano potenzialmente diventare coscienti, ma piuttosto che dovremmo mantenere un'adeguata umiltà epistemica e rigore scientifico quando facciamo affermazioni così straordinarie. La sofisticazione degli attuali modelli linguistici merita riconoscimento e studio, ma la facilità linguistica non dovrebbe essere confusa con la sensibilità. Mentre continuiamo a sviluppare sistemi di intelligenza artificiale sempre più capaci, mantenere chiare distinzioni concettuali tra diversi tipi di intelligenza, elaborazione delle informazioni e coscienza diventa più che meno importante.