Хан блокує угоду зі штучним інтелектом Met Police Palantir на 50 мільйонів фунтів стерлінгів

Здійснюючи значне втручання в закупівлю технологій для правоохоронних органів, мер Лондона Садік Хан заблокував великий контракт на 50 мільйонів фунтів стерлінгів між Скотланд-Ярдом і суперечливою американською технологічною компанією Palantir. Рішення, оголошене в четвер, є суттєвою невдачею для постачальника технологій штучного інтелекту та відображає зростаючу стурбованість щодо використання систем штучного інтелекту в поліцейській діяльності та кримінальному правосудді.

За словами представників мерії, блокування пов’язане з тим, що вони описують як «явне та серйозне порушення» встановлених правил закупівель і норм. Втручання Хана демонструє посилену перевірку основних технологічних партнерств із залученням правоохоронних органів, особливо тих, які зосереджені навколо можливостей інтелектуального аналізу ШІ.

Скотланд-Ярд вів поглиблені обговорення з Palantir щодо впровадження складної платформи штучного інтелекту технологічної компанії для автоматизації та покращення аналізу розвідувальних даних під час кримінальних розслідувань. Ці розмови, про які спочатку оприлюднив Guardian минулого місяця, являли собою амбітну спробу столичної поліції модернізувати свої слідчі можливості за допомогою автоматизованої обробки даних і технологій розпізнавання образів.

Запропонована угода стала б найбільшим контрактом Palantir щодо поліцейської діяльності у Великій Британії на сьогоднішній день, знаменуючи значне розширення присутності компанії в операціях британських правоохоронних органів. Угоду було задумано як частину ширшої ініціативи Скотланд-Ярду щодо цифрової трансформації, спрямованої на використання передових технологій для підвищення швидкості та точності кримінальних розслідувань у великій юрисдикції Служби столичної поліції, що охоплює Лондон та прилеглі території.

Palantir Technologies протягом тривалого часу була суперечливою фігурою в колах технологій і управління. Компанія, заснована Пітером Тілем, зі штаб-квартирою в Денвері, штат Колорадо, побудувала свою репутацію на розробці потужних платформ аналізу даних, які використовуються урядовими установами та спецслужбами по всьому світу. Однак фірма також зіткнулася зі значною критикою та публічними суперечками щодо проблем конфіденційності, потенційної упередженості алгоритмів і питань щодо прозорості роботи її систем.

Інтерес Служби столичної поліції до можливостей Palantir відображає ширшу тенденцію серед правоохоронних органів до впровадження передової аналітики та технологій машинного навчання. Ці системи обіцяють виявити моделі злочинної поведінки, передбачити гарячі точки злочинної діяльності та автоматизувати рутинні аспекти слідчої роботи, які традиційно споживали значні ресурси поліції.

Рішення Хана заблокувати контракт піднімає важливі питання щодо ролі штучного інтелекту в прийнятті рішень у державному секторі, особливо коли це стосується делікатних операцій правоохоронних органів. Офіс мерії вказав, що процес закупівлі порушував встановлені вказівки, що свідчить про те, що під час розробки контракту, можливо, не було дотримано належних процедур нагляду та громадських консультацій.

Це втручання також відображає ширші суспільні дебати, що відбуваються у Великій Британії та Європі щодо керування ШІ та підзвітності. Групи громадянських свобод і захисники конфіденційності висловлюють занепокоєння щодо впровадження автоматизованих систем прийняття рішень у поліції, попереджаючи, що такі технології можуть увічнити або посилити існуючі упередження в системі кримінального правосуддя.

Мер Лондона Хан раніше демонстрував рішучу відданість захисту громадянських свобод і забезпеченню прозорості муніципального управління. Його рішення заблокувати угоду Palantir узгоджується з цим ширшим підходом, надаючи перевагу дотриманню правил закупівель і публічній підзвітності над потенційним підвищенням ефективності, яке забезпечує передова технологія.

Відмова від контракту, ймовірно, матиме значні наслідки для стратегії розширення Palantir у британському державному секторі. Компанія активно розвиває партнерські відносини з державними установами в різних департаментах, і угода з столичною поліцією стала головним наріжним каменем у цих зусиллях. Заблокований контракт може спонукати інші місцеві та національні органи влади переглянути власні процеси закупівлі технологій і стратегії впровадження ШІ.

Очікується, що Скотланд-Ярд і Столична поліцейська служба дослідять альтернативні підходи до модернізації своїх можливостей аналізу розвідувальних даних, можливо, за допомогою інших постачальників технологій або шляхом розробки внутрішніх рішень. Силам також може знадобитися переглянути, як збалансувати переваги автоматизації та розширеної аналітики з необхідністю підтримки громадської довіри та забезпечення відповідності нормативним нормам.

Зацікавлені сторони в правоохоронних органах висловили неоднозначну реакцію на рішення Хана. Деякі керівники поліції підкреслили важливість використання сучасних технологій для ефективнішої боротьби зі злочинністю, тоді як інші визнали законне занепокоєння наглядових органів та організацій, що захищають громадянські свободи, щодо використання штучного інтелекту в поліцейській діяльності.

Ширші наслідки цього рішення виходять за межі безпосередніх залучених сторін. Блокування сигналізує як технологічним компаніям, так і державним установам, що важливі рішення щодо закупівель штучного інтелекту підлягатимуть посиленому контролю та повинні суворо відповідати встановленим правилам закупівель і заходам громадської підзвітності. Цей прецедент може вплинути на те, як у державному секторі обговорюватимуться та переглядатимуться майбутні технологічні контракти.

Заглядаючи в майбутнє, ситуація підкреслює триваючу напругу між інноваціями та наглядом у технологічному секторі. Оскільки системи штучного інтелекту стають дедалі складнішими, а їх застосування поширюється на такі чутливі сфери, як правоохоронні органи, питання про управління, прозорість і громадську довіру стають усе більш критичними. Втручання Хана служить нагадуванням про те, що навіть гучні, добре фінансовані технологічні ініціативи можуть зіткнутися з регуляторними перешкодами, якщо вони не зможуть орієнтуватися в складному ландшафті правил закупівель і вимог громадської підзвітності.