Palantir critica Khan per aver bloccato l'accordo sull'intelligenza artificiale della polizia Met

In una forte escalation di tensioni tra la società statunitense di analisi dei dati e il municipio, Palantir ha criticato pubblicamente Sadiq Khan per aver bloccato un contratto importante che avrebbe portato capacità avanzate di intelligenza artificiale alle operazioni di indagine penale di Scotland Yard. Il confronto è incentrato sul rifiuto di un accordo da 50 milioni di sterline che avrebbe consentito alla polizia metropolitana di sfruttare strumenti di analisi di intelligence basati sull'intelligenza artificiale per l'elaborazione di dati criminali complessi, segnando una notevole battuta d'arresto per l'espansione dell'azienda tecnologica nelle forze dell'ordine britanniche.

Il sindaco di Londra ha preso la decisione di bloccare il contratto biennale, citando preoccupazioni che rimangono pubblicamente esposte nel suo ufficio. Tuttavia, il rifiuto ha scatenato un notevole dibattito all’interno degli ambienti del partito laburista, con divisioni interne che emergono sulla questione più ampia se le forze di polizia britanniche debbano adottare la tecnologia IA avanzata per il lavoro di intelligence. La disputa rivela disaccordi filosofici più profondi sul giusto equilibrio tra innovazione tecnologica e preoccupazioni relative ai pregiudizi algoritmici, alla privacy dei dati e alla militarizzazione degli strumenti di applicazione della legge civile.

Louis Mosley, il dirigente responsabile della supervisione delle operazioni di Palantir nel Regno Unito e in Europa, ha risposto alla decisione di Khan con critiche puntuali, suggerendo che il sindaco aveva dato priorità alle considerazioni politiche rispetto alle esigenze pratiche di sicurezza pubblica. La dichiarazione di Mosley ha messo direttamente in discussione il ragionamento di Khan, sostenendo che il rifiuto di tali strumenti tecnologici alla fine danneggia i londinesi comuni che dipendono dall'efficace lavoro della polizia. La leadership dell'azienda ha espresso frustrazione per quella che ha definito la politicizzazione di una decisione sugli appalti che avrebbe dovuto essere valutata esclusivamente in base al merito e all'efficacia operativa.

Il contratto da 50 milioni di sterline ha rappresentato un investimento sostanziale nella modernizzazione del modo in cui la polizia metropolitana elabora, analizza e agisce in base alle informazioni raccolte durante le indagini. La piattaforma tecnologica di Palantir è stata ampiamente adottata dalle forze dell'ordine a livello internazionale, compresi i principali dipartimenti di polizia e agenzie federali statunitensi. Il sistema avrebbe consentito agli investigatori e agli analisti di Scotland Yard di identificare schemi, collegamenti e piste più rapidamente rispetto ai metodi tradizionali, accelerando potenzialmente le indagini su crimini gravi tra cui rapine, aggressioni e attività criminali organizzate.

Nella sua dichiarazione, Mosley ha citato esempi concreti di crimini che causano danni reali ai residenti di Londra, suggerendo che le moderne soluzioni tecnologiche svolgono un ruolo necessario nella protezione dei cittadini. La sua impostazione ha tentato di spostare il dibattito dalle preoccupazioni astratte sulla governance dei dati e verso risultati tangibili in materia di sicurezza pubblica di cui gli elettori si preoccupano direttamente. Questa strategia retorica mirava a posizionare Palantir come difensore degli interessi dei londinesi comuni contro ciò che l'azienda considera un'opposizione ideologica da parte delle élite politiche disconnesse dalle realtà della criminalità di strada.

Il quotidiano Guardian ha originariamente riportato la storia del rifiuto di Khan, fornendo la prima divulgazione pubblica dell'accordo bloccato e delle circostanze sottostanti. Questo rapporto ha suscitato una più ampia copertura mediatica e una discussione pubblica sul ruolo appropriato delle società tecnologiche private nel supportare le funzioni governative, attività particolarmente sensibili come l’analisi dell’intelligence delle forze dell’ordine. La visibilità della controversia ha amplificato il suo significato al di là di una transazione commerciale di routine tra un fornitore e un ente pubblico.

La decisione di Khan di respingere il contratto riflette preoccupazioni più ampie nutrite da alcuni politici laburisti e sostenitori delle libertà civili riguardo alla concentrazione del potere tra le grandi società tecnologiche. I critici sostengono che consentire ad aziende come Palantir di modellare le operazioni di polizia attraverso algoritmi proprietari crea lacune in termini di responsabilità e solleva importanti questioni sulla trasparenza nel modo in cui vengono prese le decisioni relative alle forze dell'ordine. Queste preoccupazioni si collegano a dibattiti internazionali più ampi sui pregiudizi algoritmici, sulla sorveglianza delle minoranze e sulla possibilità di affidarsi ai sistemi di intelligenza artificiale per prendere decisioni che influiscono sui diritti fondamentali.

Le tensioni all'interno dei laburisti suggeriscono che la posizione di Khan non è universalmente accettata nemmeno all'interno del suo stesso partito politico, indicando che le questioni sull'adozione dell'intelligenza artificiale nelle forze di polizia dividono realmente i progressisti. Alcuni esponenti laburisti potrebbero considerare il progresso tecnologico come essenziale per mantenere servizi pubblici efficaci, mentre altri danno priorità alle preoccupazioni sull’influenza aziendale e sull’equità algoritmica. Questo disaccordo interno riflette una più ampia incertezza su come i partiti di centrosinistra dovrebbero posizionarsi riguardo al cambiamento tecnologico e al coinvolgimento del settore privato nelle istituzioni pubbliche.

La strategia di risposta di Palantir si è concentrata sulla sfida a ciò che l'azienda definisce come motivazione politica piuttosto che affrontare in modo sostanziale specifiche obiezioni tecniche o politiche alla sua piattaforma. Inquadrando la questione in termini di conseguenze sulla sicurezza pubblica, Mosley ha tentato di far apparire l'opposizione al contratto irragionevole o scollegata dalle conseguenze nel mondo reale. Questo approccio mira a spostare l'opinione pubblica e potenzialmente a fare pressione sull'amministrazione Khan affinché riconsideri la decisione, suggerendo che bloccare l'accordo svantaggia proprio i collegi elettorali più vulnerabili alla criminalità grave.

La Polizia Metropolitana, in quanto forza di polizia più grande della Gran Bretagna, deve affrontare enormi sfide operative nel gestire la criminalità nei 9 milioni di residenti di Londra sparsi su 600 miglia quadrate. L'organizzazione genera quotidianamente grandi quantità di dati investigativi, dalle dichiarazioni dei testimoni e dai filmati CCTV alle informazioni sulle comunicazioni e ai registri delle prove fisiche. Gli strumenti di analisi dell'intelligence dell'intelligenza artificiale potrebbero teoricamente aiutare gli analisti a identificare connessioni e modelli all'interno di questo diluvio di dati che i revisori umani potrebbero non cogliere, migliorando potenzialmente l'efficacia investigativa.

Tuttavia, le preoccupazioni relative ai distorsioni algoritmiche nei sistemi di intelligenza artificiale sono state ben documentate nella ricerca accademica e nelle indagini governative in più paesi. Gli studi hanno dimostrato che i sistemi di apprendimento automatico addestrati su dati storici sulla criminalità possono perpetuare modelli di discriminazione esistenti, portando a un controllo eccessivo delle comunità già emarginate. Queste preoccupazioni tecniche costituiscono la base sostanziale per le critiche all'implementazione di piattaforme di intelligenza artificiale proprietarie in contesti di polizia, al di là di qualsiasi obiezione puramente politica al coinvolgimento delle aziende nelle forze dell'ordine.

La controversia solleva anche interrogativi su come dovrebbero essere prese le decisioni sugli appalti tecnologici all'interno dei governi democratici e su chi dovrebbe avere un contributo significativo in tali scelte. A differenza delle decisioni puramente commerciali prese da società private, l’implementazione della tecnologia della polizia colpisce intere comunità e modella il modo in cui viene esercitata l’autorità pubblica. Ciò suggerisce che la consultazione pubblica, il controllo democratico e un'attenta valutazione delle implicazioni sociali dovrebbero avere un posto di rilievo nei processi decisionali, non semplicemente nelle capacità dei fornitori e nell'efficienza operativa.

Guardando al futuro, l'impasse tra Palantir e l'amministrazione Khan potrebbe influenzare il modo in cui altre autorità locali e forze di polizia britanniche approcciano le partnership tecnologiche con i fornitori privati. Se il rifiuto di Khan rimane senza conseguenze, potrebbe incoraggiare altri funzionari eletti a esaminare accordi simili con maggiore attenzione. Al contrario, se aumentasse la pressione sul sindaco affinché invertisse la rotta, ciò potrebbe segnalare che le preoccupazioni per la sicurezza pubblica alla fine superano le argomentazioni ideologiche o cautelative sul coinvolgimento delle aziende nelle attività di polizia.

La stessa polizia metropolitana rimane in una posizione incerta, avendo presumibilmente richiesto la capacità tecnologica che la decisione di Khan ha negato loro. La leadership di Scotland Yard deve ora decidere se appellarsi alla decisione del sindaco, cercare soluzioni alternative da diversi fornitori o continuare a operare con le capacità di analisi dell'intelligence esistenti. L'esito di questa disputa di alto profilo influenzerà probabilmente le strategie di approvvigionamento della polizia in tutta la Gran Bretagna negli anni a venire, stabilendo precedenti su rapporti accettabili con i fornitori e sull'adozione della tecnologia nel contesto della polizia.