Il sistema sanitario basato sull’intelligenza artificiale del Kenya delude i poveri

Il presidente William Ruto ha fatto promesse radicali durante un periodo di gravi disordini civili in Kenya, promettendo che la sua amministrazione avrebbe garantito l'accesso universale all'assistenza sanitaria per tutti i cittadini. Tuttavia, un'indagine esclusiva ha scoperto una realtà preoccupante: il sistema di intelligenza artificiale progettato per determinare l'accessibilità economica dei servizi sanitari ha sistematicamente aumentato i costi per le popolazioni più vulnerabili della nazione, favorendo allo stesso tempo i keniani più ricchi che possono assorbire più facilmente l'aumento delle spese.

L'algoritmo sanitario basato sull'intelligenza artificiale al centro dell'ambiziosa revisione del sistema sanitario del Kenya è stato implementato come parte di un'iniziativa globale di trasformazione digitale. Invece di creare un accesso equo, il sistema ha dimostrato un persistente pregiudizio nei confronti dei keniani a basso reddito, sollevando seri interrogativi su come la tecnologia valuta la capacità finanziaria e determina le strutture dei prezzi. Questa discriminazione algoritmica rappresenta un fallimento fondamentale della tecnologia nel raggiungere gli obiettivi dichiarati dal governo di copertura sanitaria universale.

Lanciato nell'ottobre 2024, il nuovo sistema sanitario del Kenya è stato esplicitamente progettato per modernizzare e sostituire il vecchio sistema assicurativo nazionale del paese, rimasto sostanzialmente invariato per decenni. Il governo ha definito questa riforma un risultato fondamentale che avrebbe rivoluzionato l'erogazione dell'assistenza sanitaria in tutto il paese e avrebbe garantito che anche i keniani più poveri potessero accedere ai servizi medici essenziali senza affrontare una catastrofe finanziaria.

L'indagine rivela che la riforma sanitaria guidata dall'intelligenza artificiale contiene difetti fondamentali nel modo in cui valuta il reddito familiare, lo stato occupazionale e la capacità finanziaria complessiva. L’algoritmo sembra sottostimare costantemente le condizioni finanziarie delle famiglie povere, sovrastimando invece quelle dei cittadini più ricchi, creando una struttura di incentivi perversa in cui i costi aumentano proprio per coloro che sono meno in grado di pagare. Questo pregiudizio sistematico suggerisce una progettazione inadeguata dell'algoritmo o test insufficienti prima del lancio a livello nazionale.

I costi sanitari per le popolazioni vulnerabili sono aumentati dall'implementazione del sistema, con rapporti che indicano che i keniani poveri ora pagano molto di più per i servizi medici di base rispetto al precedente sistema assicurativo nazionale. L’onere finanziario ha costretto alcune famiglie a rinunciare completamente alle cure mediche necessarie, creando una crisi sanitaria pubblica che contraddice direttamente il mandato elettorale del presidente Ruto di migliorare l’accesso ai servizi sanitari. La situazione evidenzia come le soluzioni tecnologiche possano perpetuare le disuguaglianze sociali esistenti se non progettate attentamente tenendo conto di considerazioni di equità.

Il problema della distorsione degli algoritmi sanitari va oltre i semplici meccanismi di determinazione dei prezzi. La categorizzazione dei pazienti da parte del sistema sembra basarsi su dati che non sono predittori significativi delle effettive difficoltà finanziarie nel contesto del Kenya. Molti keniani poveri lavorano in settori informali con modelli di reddito irregolari che l’algoritmo fatica a valutare adeguatamente, portando a classificazioni errate e assegnazioni di costi inadeguate. Questa limitazione tecnica rivela un pericoloso divario tra il modo in cui i sistemi di intelligenza artificiale sono progettati in ambienti controllati e il modo in cui funzionano in contesti del mondo reale con realtà socioeconomiche complesse.

Gli esperti in equità digitale e equità algoritmica sottolineano che l'esperienza del Kenya funge da ammonimento per altre nazioni in via di sviluppo che stanno prendendo in considerazione riforme sanitarie guidate dall'intelligenza artificiale. Senza test rigorosi per individuare i pregiudizi, in particolare nei confronti delle popolazioni storicamente emarginate, questi sistemi possono inavvertitamente rafforzare le disuguaglianze esistenti pur apparendo neutrali e oggettivi. La percezione dell'IA come intrinsecamente giusta e imparziale può in realtà mascherare problemi di fondo che si manifestano solo quando i sistemi vengono implementati su larga scala tra popolazioni diverse.

Le carenze del sistema sanitario hanno suscitato critiche significative da parte delle organizzazioni della società civile, dei sostenitori della sanità e dei politici dell'opposizione, i quali sostengono che il governo ne abbia accelerato l'attuazione senza adeguate garanzie. Numerose indagini condotte da ricercatori indipendenti hanno documentato casi in cui circostanze finanziarie identiche hanno prodotto valutazioni di accessibilità molto diverse a seconda di altre variabili ponderate dall'algoritmo, suggerendo incoerenza e potenziale discriminazione incorporata nel modello di apprendimento automatico.

I funzionari governativi hanno risposto all'indagine riconoscendo che potrebbero essere necessari aggiustamenti, ma hanno difeso l'approccio generale come una necessaria modernizzazione delle infrastrutture sanitarie del Kenya. Sostengono che la trasformazione della tecnologia sanitaria comporta inevitabilmente periodi di transizione con imperfezioni e che il sistema migliorerà man mano che verranno raccolti più dati e l'algoritmo verrà perfezionato. Tuttavia, i critici sostengono che questa risposta è inadeguata dato il danno immediato subito dalle popolazioni vulnerabili che non possono permettersi di aspettare miglioramenti graduali.

Il contesto più ampio delle sfide sanitarie del Kenya non può essere ignorato quando si valutano i fallimenti di questo sistema. Il Paese lotta da tempo con risorse sanitarie limitate, disparità geografiche nell’accesso ai servizi e finanziamenti insufficienti per le infrastrutture sanitarie pubbliche. Molti osservatori speravano che le soluzioni sanitarie basate sull'intelligenza artificiale potessero aiutare a ottimizzare le risorse limitate e a migliorare l'efficienza, ma invece la tecnologia ha creato nuove barriere per i cittadini più poveri.

Gli esperti tecnici hanno suggerito che l'algoritmo potrebbe essere corretto attraverso la riqualificazione con set di dati meglio progettati che riflettano in modo più accurato le realtà socioeconomiche delle popolazioni povere del Kenya. Tuttavia, ciò richiederebbe notevoli investimenti e tempo aggiuntivi, ritardando i soccorsi per coloro che attualmente sono danneggiati dal sistema. La situazione solleva interrogativi scomodi sulla questione se i governi debbano implementare sistemi di intelligenza artificiale complessi prima di comprenderne appieno le implicazioni in termini di equità.

Gruppi di difesa dei pazienti hanno documentato casi strazianti di keniani che hanno ritardato o evitato le cure mediche necessarie perché gli algoritmi del sistema avevano stabilito che potevano permettersi costi più elevati di quelli che in realtà avrebbero potuto. Alcuni individui hanno esaurito i risparmi per pagare tariffe gonfiate, mentre altri si sono rivolti a opzioni sanitarie meno formali che possono offrire cure di qualità inferiore ma rivelarsi più gestibili dal punto di vista finanziario. Queste storie personali illustrano il reale costo umano dei fallimenti algoritmici.

Guardando al futuro, l'esperienza del Kenya offre importanti lezioni per altri paesi che implementano iniziative di trasformazione digitale dell'assistenza sanitaria. Gli esperti raccomandano che i governi si impegnino in controlli algoritmici trasparenti prima dell’implementazione, coinvolgano le comunità interessate per comprendere i contesti locali e costruiscano misure di salvaguardia che impediscano a qualsiasi individuo o gruppo di essere sistematicamente svantaggiato. La posta in gioco è troppo alta nel settore sanitario per un approccio basato su tentativi ed errori all'implementazione della tecnologia.

La promessa originale del presidente Ruto di ampliare l'accesso all'assistenza sanitaria rimane insoddisfatta per i cittadini più poveri del Kenya, che ora devono far fronte a costi più elevati e maggiori ostacoli all'assistenza sanitaria rispetto a prima dell'implementazione del sistema. Se il governo possa effettivamente risolvere i problemi algoritmici e mantenere i propri impegni elettorali rimane una questione aperta. L'indagine funge da meccanismo cruciale di responsabilità, costringendo il pubblico a esaminare il modo in cui la tecnologia viene utilizzata nei servizi sociali critici.