Палантир критикує Хана за заблоковану угоду зі ШІ Met Police

Під час різкого загострення напруженості між американською компанією з аналізу даних і мерією Palantir публічно розкритикував Садіка Хана за блокування значного контракту, який передбачав використання передових можливостей штучного інтелекту в кримінальних розслідуваннях Скотланд-Ярду. Конфронтація зосереджена на відхиленій угоді на суму 50 мільйонів фунтів стерлінгів, яка дозволила б столичній поліції використовувати інструменти аналізу розвідувальних даних на основі штучного інтелекту для обробки складних кримінальних даних, що стало помітною невдачею для експансії технологічної компанії в британських правоохоронних органах.

Мер Лондона прийняв рішення заблокувати дворічний контракт, посилаючись на занепокоєння, які залишаються публічними в його офісі. Однак ця відмова викликала значні дебати в колах Лейбористської партії, де виникли внутрішні розбіжності щодо ширшого питання про те, чи слід британській поліції застосовувати передову технологію штучного інтелекту для розвідувальної роботи. Суперечка виявляє глибші філософські розбіжності щодо правильного балансу між технологічними інноваціями та занепокоєнням щодо упередженості алгоритмів, конфіденційності даних і мілітаризації цивільних інструментів правоохоронних органів.

Луїс Мослі, виконавчий директор, відповідальний за нагляд за операціями Palantir у Великій Британії та Європі, відповів на рішення Хана гострою критикою, припустивши, що мер поставив пріоритет політичним міркуванням над практичними потребами громадської безпеки. Заява Мослі прямо поставила під сумнів міркування Хана, стверджуючи, що відмова від таких технологічних інструментів зрештою шкодить простим лондонцям, які залежать від ефективної роботи поліції. Керівництво фірми висловило розчарування з приводу того, що вони охарактеризували як політизацію рішення про закупівлю, яке мало оцінюватися суто за перевагами та операційною ефективністю.

Контракт на суму 50 мільйонів фунтів стерлінгів представляв собою значні інвестиції в модернізацію того, як столична поліція обробляє, аналізує та діє на основі розвідувальних даних, зібраних під час розслідувань. Технологічну платформу Palantir широко використовують міжнародні правоохоронні органи, зокрема головні поліцейські департаменти та федеральні агентства США. Система дозволила б детективам і аналітикам зі Скотленд-Ярду визначати закономірності, зв’язки та підказки швидше, ніж традиційні методи, потенційно прискоривши розслідування серйозних злочинів, зокрема пограбування, нападу та організованої злочинної діяльності.

У своїй заяві Мослі навів конкретні приклади злочинів, які завдають справжньої шкоди жителям Лондона, припускаючи, що сучасні технологічні рішення відіграють необхідну роль у захисті громадян. Його формулювання намагалося відвести дебати від абстрактних проблем щодо управління даними до відчутних результатів громадської безпеки, які безпосередньо хвилюють виборців. Ця риторична стратегія мала на меті позиціонувати Palantir як захисника інтересів звичайних лондонців проти того, що компанія вважає ідеологічно керованою опозицією з боку політичних еліт, не пов’язаних із реаліями вуличної злочинності.

Газета Guardian спочатку оприлюднила історію про відмову Хана, надавши первинне публічне розкриття заблокованої угоди та її основних обставин. Це повідомлення викликало ширше висвітлення в засобах масової інформації та публічну дискусію щодо відповідної ролі приватних технологічних компаній у підтримці функцій уряду, особливо делікатної діяльності, як-от аналіз розвідки правоохоронних органів. Помітність спору збільшила його значення за межі звичайної ділової операції між постачальником і державним агентством.

Рішення Хана відхилити контракт відображає ширшу стурбованість деяких лейбористських політиків і захисників громадянських свобод щодо концентрації влади серед великих технологічних корпорацій. Критики стверджують, що дозвіл таким компаніям, як Palantir, формувати поліцейські операції за допомогою власних алгоритмів, створює прогалини у підзвітності та піднімає важливі питання щодо прозорості в тому, як приймаються рішення правоохоронними органами. Ці занепокоєння пов’язані з ширшими міжнародними дебатами щодо упередженості алгоритмів, спостереження за меншинами та того, чи можна довіряти системам штучного інтелекту для прийняття рішень, які впливають на основні права.

Напруженість у лейбористській партії свідчить про те, що позиція Хана не є загальноприйнятою навіть у його власній політичній партії, що вказує на те, що питання щодо впровадження штучного інтелекту в поліцію дійсно розділяють прогресивних людей. Деякі представники Лейбористської партії можуть вважати технологічний прогрес необхідним для підтримки ефективних державних послуг, тоді як інші надають пріоритет занепокоєнням щодо корпоративного впливу та справедливості алгоритмів. Ця внутрішня незгода відображає ширшу невизначеність щодо того, як лівоцентристські партії мають позиціонувати себе щодо технологічних змін і участі приватного сектору в державних установах.

Стратегія реагування Palantir була зосереджена на випробуванні того, що компанія характеризує як політичну мотивацію, а не на суттєвому розгляді конкретних технічних або політичних заперечень щодо своєї платформи. Сформулювавши проблему з точки зору результатів громадської безпеки, Мослі намагався зробити опозицію до контракту нерозумною або не пов’язаною з реальними наслідками. Цей підхід має на меті змінити громадську думку та потенційно змусити адміністрацію Хана переглянути рішення, припускаючи, що блокування угоди ставить у невигідне становище ті самі групи, які найбільш вразливі до серйозних злочинів.

Столична поліція, як найбільший поліцейський підрозділ у Британії, стикається з величезними оперативними проблемами в боротьбі зі злочинністю серед 9 мільйонів жителів Лондона, розташованих на 600 квадратних милях. Організація щодня генерує величезну кількість слідчих даних, від свідчень свідків і записів із камер відеоспостереження до даних комунікаційної розвідки та журналів речових доказів. Інструменти аналізу інтелектуальних даних AI теоретично можуть допомогти аналітикам виявити зв’язки та закономірності в цьому потокі даних, які можуть пропустити перевіряючі люди, що потенційно може підвищити ефективність розслідування.

Однак занепокоєння щодо алгоритмічної помилки в системах штучного інтелекту було добре задокументовано в академічних дослідженнях і державних запитах у багатьох країнах. Дослідження показали, що системи машинного навчання, навчені на історичних даних про злочини, можуть увічнити існуючі моделі дискримінації, що призводить до надмірного контролю за вже маргіналізованими громадами. Ці технічні проблеми формують суттєву основу для критики розгортання власних платформ штучного інтелекту в поліцейських контекстах, поза будь-якими суто політичними запереченнями щодо корпоративної участі в правоохоронній діяльності.

Суперечка також викликає питання про те, як демократичні уряди мають приймати рішення щодо закупівлі технологій і хто має суттєвий внесок у такий вибір. На відміну від суто комерційних рішень, прийнятих приватними компаніями, впровадження поліцейських технологій впливає на цілі громади та формує спосіб здійснення державної влади. Це свідчить про те, що громадські консультації, демократичний нагляд і ретельна оцінка суспільних наслідків повинні займати важливе місце в процесах прийняття рішень, а не просто здатність постачальника та операційна ефективність.

Заглядаючи вперед, безвихідь між Палантиром і адміністрацією Хана може вплинути на те, як інші британські місцеві органи влади та поліція підходять до технологічного партнерства з приватними постачальниками. Якщо відмова Хана залишиться без наслідків, це може підбадьорити інших обраних посадових осіб ретельніше вивчити подібні домовленості. І навпаки, якщо на мера посилиться тиск, щоб він змінив курс, це може означати, що занепокоєння громадською безпекою зрештою переважують ідеологічні або застережливі аргументи щодо участі корпорацій у поліцейській діяльності.

Сама столична поліція залишається в невизначеному становищі, мабуть, запросивши технологічний потенціал, у якому їй було відмовлено рішенням Хана. Тепер керівництво Скотленд-Ярду має вирішити, чи оскаржувати рішення мера, чи шукати альтернативні рішення від різних постачальників, чи продовжувати працювати з наявними можливостями аналізу розвідданих. Результат цієї резонансної суперечки, ймовірно, вплине на стратегії поліцейських закупівель по всій Британії на довгі роки, створивши прецеденти щодо прийнятних відносин із постачальниками та впровадження технологій у поліцейському контексті.