L'NHS concede a Palantir un accesso "pericoloso" ai dati dei pazienti

In uno sviluppo significativo che ha suscitato notevoli controversie all'interno degli ambienti parlamentari, i parlamentari hanno lanciato seri campanelli d'allarme sulla decisione del servizio sanitario nazionale inglese di fornire alla società tecnologica americana Palantir ampio accesso alle informazioni identificabili dei pazienti. Questa decisione, presa nell'ambito di un'ambiziosa iniziativa volta a sfruttare l'intelligenza artificiale per migliorare i servizi sanitari, è stata definita dai legislatori fondamentalmente "pericolosa" e potenzialmente dannosa per la fiducia del pubblico nell'amato sistema sanitario nazionale.

La rivelazione, inizialmente riportata dal Financial Times, mette in luce quella che molti considerano una preoccupante disconnessione tra gli impegni dichiarati in materia di privacy e le effettive pratiche di gestione dei dati. Secondo i rapporti, a Palantir è stato concesso accesso illimitato alle cartelle cliniche sensibili dei pazienti prima che queste siano state sottoposte al processo cruciale di pseudonimizzazione, un passaggio critico di anonimizzazione che dovrebbe proteggere la privacy individuale. Questa disposizione è in netto contrasto con le aspettative ampiamente condivise su come tali informazioni sanitarie personali sensibili dovrebbero essere gestite e protette.

La leadership dell'NHS England ha giustificato questo approccio come necessario per lo sviluppo di una piattaforma integrata progettata per migliorare l'erogazione dell'assistenza sanitaria in tutta la nazione. Il progetto mira a utilizzare capacità avanzate di intelligenza artificiale per analizzare modelli, prevedere risultati sanitari e, in definitiva, migliorare la cura dei pazienti a livello sistemico. Tuttavia, i mezzi con cui viene perseguito questo nobile obiettivo, ovvero garantire l'accesso illimitato ai dati non protetti dei pazienti, sono diventati il punto centrale della contesa.

La documentazione interna del servizio sanitario nazionale, esaminata dai media che indagano su questa storia, rivela che la leadership dell'organizzazione era profondamente consapevole delle implicazioni sulla privacy e dei rischi associati a questo accordo. Nello specifico, le comunicazioni interne fanno riferimento alle preoccupazioni circa un "rischio di perdita di fiducia del pubblico" derivante dalla decisione di consentire agli appaltatori e ai partner tecnologici esterni di accedere alle informazioni sui pazienti nella loro forma identificabile. Questo riconoscimento del potenziale danno alla reputazione solleva importanti domande sul motivo per cui la decisione è stata perseguita nonostante queste preoccupazioni riconosciute.

Il coinvolgimento di appaltatori tecnologici statunitensi aggiunge un ulteriore livello di complessità al dibattito sulla privacy. Oltre all’accesso di Palantir, anche ad altri appaltatori americani è stato concesso l’accesso preliminare ai dati identificabili dei pazienti come parte del processo di sviluppo della piattaforma. Questo accesso multinazionale a informazioni sanitarie estremamente sensibili, provenienti da cittadini britannici, ha sollevato interrogativi sulla sovranità dei dati, sugli standard internazionali di protezione dei dati e sull'adeguatezza delle garanzie esistenti.

I critici parlamentari hanno sottolineato che questa decisione è fondamentalmente in conflitto con le aspettative del pubblico riguardo alla sicurezza dei dati sanitari e ai principi che dovrebbero sostenere il Servizio sanitario nazionale. L’NHS, in quanto istituzione finanziata con fondi pubblici, opera con un contratto sociale implicito con il pubblico britannico: le informazioni sanitarie personali condivise con l’organizzazione saranno protette con la massima cura e discrezione. Le violazioni di questo accordo implicito, reali o percepite, possono erodere in modo significativo la fiducia del pubblico nell'istituzione.

La controversia arriva in un momento particolarmente delicato per le discussioni sull'intelligenza artificiale nel settore sanitario. Mentre i sistemi sanitari esplorano a livello globale le applicazioni dell’intelligenza artificiale per il supporto diagnostico, l’ottimizzazione del trattamento e l’efficienza operativa, le domande sull’accesso ai dati e sulla privacy sono diventate sempre più importanti nel discorso pubblico. La situazione del servizio sanitario nazionale esemplifica la tensione tra innovazione tecnologica e protezione della privacy, un equilibrio che molti sostengono sia stato raggiunto in modo errato in questo caso.

Gli organismi di regolamentazione e le autorità di protezione dei dati hanno tradizionalmente sottolineato l'importanza della pseudonimizzazione come salvaguardia fondamentale durante il trattamento delle informazioni sanitarie personali. La pratica prevede la rimozione o la sostituzione di elementi identificabili all’interno dei set di dati, come nomi e numeri di previdenza sociale, con identificatori artificiali o numeri di codice. Questa tecnica consente ai ricercatori e agli sviluppatori di tecnologia di lavorare con i dati riducendo significativamente il rischio di identificare le persone. La decisione di concedere l'accesso prima di questo processo di pseudonimizzazione rappresenta una deviazione sostanziale dalle migliori pratiche consolidate.

I parlamentari hanno chiesto chiarezza immediata sulla portata dell'accesso di Palantir, sulla durata di questo accordo di accesso e sulle garanzie specifiche messe in atto per prevenire l'uso improprio o gli usi secondari non autorizzati dei dati. Sono state presentate diverse interrogazioni parlamentari richiedenti informazioni dettagliate sugli accordi contrattuali, sulle valutazioni d’impatto sulla protezione dei dati e sui meccanismi di controllo. L'organo legislativo sembra determinato a capire esattamente come e perché è stata presa questa decisione.

Le preoccupazioni sulla privacy sollevate dai legislatori riflettono preoccupazioni più ampie all'interno della sfera pubblica riguardo all'accesso delle aziende ai dati sanitari personali. Negli ultimi anni, numerosi incidenti che hanno coinvolto aziende tecnologiche e dati personali hanno contribuito ad aumentare lo scetticismo del pubblico riguardo al modo in cui le aziende gestiscono le informazioni sensibili. La fiducia, una volta persa, è notoriamente difficile da ricostruire e le organizzazioni sanitarie devono essere particolarmente sensibili nel preservare la fiducia del pubblico nelle loro pratiche di gestione dei dati.

NHS England ha indicato che sono in atto protocolli di gestione delle informazioni e misure di sicurezza adeguati per proteggere i dati dei pazienti a cui Palantir e altri appaltatori hanno accesso. I funzionari hanno sottolineato che l'accordo è temporaneo, con l'accesso ai dati destinato a cessare una volta conclusa la fase di sviluppo della piattaforma. Inoltre, hanno sottolineato che il processo di pseudonimizzazione avverrà dopo la fase iniziale di sviluppo e test. Tuttavia, queste assicurazioni hanno fatto ben poco per placare le preoccupazioni parlamentari e pubbliche sulla situazione attuale.

La situazione sottolinea la complessità dell'implementazione di iniziative tecnologiche su larga scala all'interno dei sistemi sanitari finanziati con fondi pubblici, dove molteplici interessi concorrenti (innovazione, efficienza, tutela della privacy e fiducia pubblica) devono in qualche modo essere conciliati. Le sfide affrontate dall'NHS England nel tentativo di bilanciare lo sviluppo tecnologico all'avanguardia con rigorose misure di tutela della privacy riflettono le tensioni sistemiche con cui le organizzazioni sanitarie di tutto il mondo si trovano ad affrontare mentre si muovono nel panorama in rapida evoluzione dell'intelligenza artificiale e dell'analisi dei dati.

Andando avanti, la risoluzione di questa controversia creerà probabilmente importanti precedenti sul modo in cui i servizi sanitari finanziati con fondi pubblici affrontano l'accesso ai dati per lo sviluppo tecnologico. Resta da vedere se l’NHS England riuscirà a implementare con successo la sua ambiziosa piattaforma di intelligenza artificiale proteggendo adeguatamente la privacy dei pazienti. Ciò che è chiaro, tuttavia, è che l'organizzazione si trova ora ad affrontare una pressione significativa per dimostrare che il progresso tecnologico non deve necessariamente avvenire a scapito dei principi fondamentali della privacy e della fiducia del pubblico.