Khan, Met Police Palantir AI Anlaşmasını 50 Milyon £ Engelledi

Kolluk kuvvetlerinin teknoloji tedarikine önemli bir müdahalede bulunan Londra Belediye Başkanı Sadiq Khan, Scotland Yard ile tartışmalı Amerikan teknoloji şirketi Palantir arasındaki 50 milyon £'luk büyük bir sözleşmeyi engellemek için harekete geçti. Perşembe günü açıklanan karar, AI teknolojisi sağlayıcısı için önemli bir gerilemeyi temsil ediyor ve yapay zeka sistemlerinin polislik ve ceza adaletinde kullanımına ilişkin artan endişeleri yansıtıyor.

Belediye yetkililerine göre abluka, yerleşik satın alma kurallarının ve düzenlemelerinin "açık ve ciddi ihlali" olarak tanımladıkları durumdan kaynaklanıyor. Khan'ın müdahalesi, özellikle hassas Yapay Zeka istihbarat analizi yeteneklerine odaklanan kolluk kuvvetlerinin dahil olduğu büyük teknoloji ortaklıklarına uygulanan sıkı incelemeyi gösteriyor.

Scotland Yard, suç soruşturmalarında istihbarat analizini otomatikleştirmek ve geliştirmek amacıyla teknoloji şirketinin gelişmiş yapay zeka platformunu uygulamak için Palantir ile ileri düzey görüşmelerde bulunmuştu. İlk olarak geçen ay Guardian tarafından ortaya çıkarılan bu görüşmeler, Metropolitan Polis Teşkilatı'nın otomatik veri işleme ve örüntü tanıma teknolojileri aracılığıyla soruşturma yeteneklerini modernleştirmeye yönelik iddialı bir girişimi temsil ediyordu.

Önerilen düzenleme, Palantir'in bugüne kadarki en büyük Birleşik Krallık polislik sözleşmesi olacaktı ve bu, şirketin İngiliz kolluk kuvvetleri operasyonlarındaki varlığının önemli ölçüde genişlemesine işaret ediyordu. Anlaşma, Scotland Yard'ın daha geniş dijital dönüşüm girişiminin bir parçası olarak tasarlandı. Bu girişim, Metropolitan Polis Teşkilatı'nın Londra ve çevresindeki bölgeleri kapsayan geniş yetki alanı genelinde cezai soruşturmaların hızını ve doğruluğunu artırmak için en son teknolojiden yararlanmayı hedefliyordu.

Palantir Technologies, teknoloji ve yönetim çevrelerinde uzun zamandır kutuplaştırıcı bir figür oldu. Peter Thiel tarafından kurulan ve merkezi Denver, Colorado'da bulunan şirket, dünya çapındaki devlet kurumları ve istihbarat servisleri tarafından kullanılan güçlü veri analizi platformları geliştirmesiyle ün kazanmıştır. Ancak firma aynı zamanda gizlilik kaygıları, algoritmik önyargı potansiyeli ve sistemlerinin nasıl çalıştığına ilişkin şeffaflığa ilişkin sorularla ilgili önemli eleştiriler ve kamuoyu tartışmalarıyla da karşı karşıya kaldı.

Metropolitan Polis Teşkilatı'nın Palantir'in yeteneklerine olan ilgisi, kolluk kuvvetleri arasında gelişmiş analitik ve makine öğrenimi teknolojilerini benimseme yönündeki daha geniş bir eğilimi yansıtıyor. Bu sistemler, suç davranışındaki kalıpları belirlemeyi, suç faaliyeti için sıcak noktaları tahmin etmeyi ve geleneksel olarak önemli miktarda polis kaynağı tüketen soruşturma çalışmalarının rutin yönlerini otomatikleştirmeyi vaat ediyor.

Khan'ın sözleşmeyi bloke etme kararı, özellikle hassas kolluk kuvvetleri operasyonlarını içerdiğinde, yapay zekanın kamu sektöründeki karar alma süreçlerindeki rolü hakkında önemli soruları gündeme getiriyor. Belediye Başkanı ofisi, satın alma sürecinin yerleşik yönergeleri ihlal ettiğini belirterek, sözleşmenin geliştirilmesi sırasında uygun gözetim ve halkın katılımı prosedürlerinin takip edilmemiş olabileceğini öne sürdü.

Müdahale aynı zamanda Birleşik Krallık ve Avrupa'da yapay zeka yönetişimi ve hesap verebilirlik konusunda meydana gelen daha geniş toplumsal tartışmaları da yansıtıyor. Sivil özgürlük grupları ve mahremiyet savunucuları, polislik alanında otomatik karar alma sistemlerinin kullanılmasıyla ilgili endişelerini dile getirerek, bu tür teknolojilerin ceza adaleti sistemindeki mevcut önyargıları devam ettirebileceği veya artırabileceği konusunda uyarıda bulundu.

Londra Belediye Başkanı Khan daha önce sivil özgürlüklerin korunması ve belediye yönetiminde şeffaflığın sağlanması konusunda güçlü bir kararlılık göstermişti. Palantir anlaşmasını bloke etme kararı, ileri teknolojinin sunduğu potansiyel verimlilik kazanımları yerine satın alma düzenlemelerine bağlılığa ve kamunun hesap verebilirliğine öncelik veren bu daha geniş yaklaşımla uyumlu.

Sözleşmenin reddedilmesinin Palantir'in İngiliz kamu sektöründeki genişleme stratejisi üzerinde önemli etkileri olması muhtemeldir. Şirket, çeşitli departmanlarda devlet kurumlarıyla aktif olarak ortaklıklar sürdürüyor ve Metropolitan Police anlaşması bu çabalarda önemli bir temel taşı oluşturdu. Engellenen sözleşme, diğer yerel ve ulusal yetkilileri kendi teknoloji satın alma süreçlerini ve yapay zeka uygulama stratejilerini gözden geçirmeye teşvik edebilir.

Scotland Yard ve Metropolitan Polis Teşkilatı'nın, potansiyel olarak diğer teknoloji sağlayıcıları aracılığıyla veya şirket içi çözümler geliştirerek, istihbarat analizi yeteneklerini modernleştirmeye yönelik alternatif yaklaşımları keşfetmesi bekleniyor. Gücün ayrıca otomasyon ve gelişmiş analitiğin faydalarını kamu güvenini koruma ve düzenleyici çerçevelere uygunluğu sağlama zorunluluğuyla nasıl dengeleyeceğini yeniden düşünmesi gerekebilir.

Emniyet teşkilatındaki paydaşlar Khan'ın kararına karışık tepkiler verdi. Bazı polis liderleri, suçla daha etkili bir şekilde mücadele etmek için modern teknolojiden yararlanmanın önemini vurgularken, diğerleri polislik faaliyetlerinde yapay zeka kullanımına ilişkin gözetim kurumları ve sivil özgürlükler örgütleri tarafından dile getirilen meşru kaygıları kabul etti.

Bu kararın daha geniş etkileri, ilgili tarafların ötesine uzanıyor. Blok, teknoloji şirketlerine ve benzer devlet kurumlarına, önemli AI satın alma kararlarının daha fazla incelemeye tabi tutulacağı ve yerleşik satın alma kurallarına ve kamu hesap verebilirlik önlemlerine titizlikle uyması gerektiği sinyalini veriyor. Bu emsal, gelecekteki teknoloji sözleşmelerinin kamu sektöründe nasıl müzakere edileceğini ve inceleneceğini şekillendirebilir.

İleriye baktığımızda bu durum, teknoloji sektöründe inovasyon ile gözetim arasında süregelen gerilimi vurguluyor. Yapay zeka sistemleri giderek daha karmaşık hale geldikçe ve uygulamaları kolluk kuvvetleri gibi hassas alanlara yayıldıkça yönetişim, şeffaflık ve kamu güveni ile ilgili sorular daha da kritik hale geliyor. Khan'ın müdahalesi, yüksek profilli, iyi finanse edilen teknoloji girişimlerinin bile, satın alma düzenlemeleri ve kamu hesap verebilirlik gereksinimlerinden oluşan karmaşık ortamda gezinmeyi başaramamaları durumunda düzenleyici engellerle karşılaşabileceğini hatırlatıyor.