Kenya'nın Yapay Zeka Sağlık Sistemi Yoksulları Başarısız Ediyor

Başkan William Ruto, Kenya'da ciddi toplumsal huzursuzlukların yaşandığı bir dönemde, yönetiminin tüm vatandaşların evrensel sağlık hizmetlerine erişimini garanti altına alacağına dair kapsamlı vaatlerde bulundu. Ancak özel bir araştırma, rahatsız edici bir gerçeği ortaya çıkardı: Sağlık hizmetlerinin karşılanabilirliğini belirlemek için tasarlanan yapay zeka sistemi, ülkenin en savunmasız nüfuslarının maliyetlerini sistematik olarak artırırken aynı zamanda artan harcamaları daha kolay karşılayabilen daha varlıklı Kenyalıları tercih etti.

Kenya'nın iddialı sağlık sistemi revizyonunun merkezindeki Yapay Zeka sağlık algoritması, kapsamlı bir dijital dönüşüm girişiminin parçası olarak uygulandı. Sistem, adil erişim sağlamak yerine, düşük gelirli Kenyalılara karşı sürekli bir önyargı sergiledi ve teknolojinin finansal kapasiteyi nasıl değerlendirdiği ve fiyatlandırma yapılarını nasıl belirlediği konusunda ciddi soruları gündeme getirdi. Bu algoritmik ayrımcılık, teknolojinin hükümetin beyan ettiği evrensel sağlık sigortası hedeflerine ulaşma konusundaki temel başarısızlığını temsil ediyor.

Ekim 2024'te kullanıma sunulan Kenya'nın yeni sağlık sistemi, ülkenin onlarca yıldır büyük ölçüde değişmeden kalan eskimiş ulusal sigorta çerçevesini modernize etmek ve değiştirmek için açıkça tasarlandı. Hükümet, bu reformu, ülke genelinde sağlık hizmeti sunumunda devrim yaratacak ve en yoksul Kenyalıların bile mali felaketle karşılaşmadan temel tıbbi hizmetlere erişebilmesini sağlayacak dönüm noktası niteliğinde bir başarı olarak konumlandırdı.

Araştırma, yapay zeka destekli sağlık reformunun hane geliri, istihdam durumu ve genel mali kapasiteyi değerlendirme biçiminde temel kusurlar içerdiğini ortaya koyuyor. Algoritma, yoksul hanelerin mali koşullarını sürekli olarak küçümserken, daha zengin vatandaşların mali koşullarını olduğundan fazla tahmin ediyor gibi görünüyor; bu da maliyetlerin tam olarak en az ödeyebilenler için arttığı sapkın bir teşvik yapısı yaratıyor. Bu sistematik önyargı, ya yetersiz algoritma tasarımına ya da ulusal kullanıma sunmadan önce yetersiz test yapılmasına işaret ediyor.

Sistemin uygulamaya konmasından bu yana hassas kesimlerin sağlık hizmetleri maliyetleri arttı; raporlar, yoksul Kenyalıların artık temel tıbbi hizmetler için önceki ulusal sigorta sistemine kıyasla önemli ölçüde daha fazla para ödediğini gösteriyor. Mali yük, bazı aileleri gerekli tıbbi tedaviden tamamen vazgeçmeye zorlayarak, Başkan Ruto'nun sağlığa erişimi iyileştirme yönündeki seçim talimatıyla doğrudan çelişen bir halk sağlığı krizi yarattı. Bu durum, eşitlik hususları dikkate alınarak dikkatli bir şekilde tasarlanmadığında teknolojik çözümlerin mevcut sosyal eşitsizlikleri nasıl devam ettirebileceğinin altını çiziyor.

Sağlık hizmeti algoritması önyargısı sorunu, basit fiyatlandırma mekanizmalarının ötesine uzanıyor. Sistemin hastaları sınıflandırması, Kenya bağlamında gerçek mali sıkıntının anlamlı öngörüleri olmayan veri noktalarına dayanıyor gibi görünüyor. Pek çok yoksul Kenyalı, algoritmanın doğru şekilde değerlendirmekte zorlandığı, düzensiz gelir kalıplarına sahip kayıt dışı sektörlerde çalışıyor ve bu da yanlış sınıflandırmaya ve uygun olmayan maliyet tahsislerine yol açıyor. Bu teknik sınırlama, yapay zeka sistemlerinin kontrollü ortamlarda nasıl tasarlandığı ile karmaşık sosyoekonomik gerçekliklerin olduğu gerçek dünya bağlamlarında nasıl işlediği arasındaki tehlikeli uçurumu ortaya çıkarıyor.

Dijital eşitlik ve algoritmik adalet uzmanları, Kenya'nın deneyiminin, yapay zeka destekli sağlık reformlarını düşünen diğer gelişmekte olan ülkeler için uyarıcı bir hikaye olduğuna dikkat çekiyor. Özellikle tarihsel olarak dışlanmış nüfuslara karşı önyargılara yönelik sıkı testler yapılmazsa, bu sistemler tarafsız ve objektif görünürken istemeden de olsa mevcut eşitsizlikleri güçlendirebilir. Yapay zekanın doğası gereği adil ve tarafsız olduğu algısı, aslında yalnızca sistemler farklı popülasyonlara geniş ölçekte dağıtıldığında ortaya çıkan temel sorunları maskeleyebilir.

Sağlık sistemindeki kusurlar, hükümetin yeterli önlemler olmadan uygulamayı aceleye getirdiğini iddia eden sivil toplum kuruluşlarının, sağlık savunucularının ve muhalif politikacıların ciddi eleştirilerine yol açtı. Bağımsız araştırmacılar tarafından yapılan çok sayıda araştırma, aynı finansal koşulların, algoritmanın ağırlıklandırdığı diğer değişkenlere bağlı olarak çok farklı uygun fiyat değerlendirmeleri ürettiği durumları belgeledi; bu durum, makine öğrenimi modelinde yer alan tutarsızlık ve potansiyel ayrımcılığa işaret ediyor.

Hükümet yetkilileri soruşturmaya düzenlemelerin gerekli olabileceğini kabul ederek yanıt verdi, ancak genel yaklaşımı Kenya'nın sağlık altyapısının gerekli bir modernizasyonu olarak savundu. Sağlık hizmetleri teknolojisi dönüşümünün kaçınılmaz olarak kusurlu geçiş dönemleri içerdiğini ve daha fazla veri toplandıkça ve algoritma geliştirildikçe sistemin iyileşeceğini savunuyorlar. Ancak eleştirmenler, kademeli iyileştirmeleri beklemeyi göze alamayacak durumda olan savunmasız grupların yaşadığı ani zarar göz önüne alındığında bu tepkinin yetersiz olduğunu ileri sürüyor.

Bu sistemin başarısızlıkları değerlendirilirken Kenya'nın sağlık sorunlarının daha geniş bağlamı göz ardı edilemez. Ülke uzun süredir sınırlı sağlık hizmetleri kaynakları, hizmet erişimindeki coğrafi eşitsizlikler ve kamu sağlığı altyapısına yönelik yetersiz finansmanla mücadele ediyor. Pek çok gözlemci AI sağlık çözümlerinin sınırlı kaynakları optimize etmeye ve verimliliği artırmaya yardımcı olabileceğini umuyordu, ancak bunun yerine teknoloji en yoksul vatandaşlar için yeni engeller yarattı.

Teknik uzmanlar, algoritmanın, Kenya'nın yoksul nüfusunun sosyoekonomik gerçeklerini daha doğru şekilde yansıtan daha iyi tasarlanmış veri kümeleriyle yeniden eğitilerek düzeltilebileceğini öne sürdü. Ancak bu, önemli miktarda ek yatırım ve zaman gerektirecek ve sistemden halihazırda zarar görenlerin kurtarılmasını geciktirecektir. Bu durum, hükümetlerin karmaşık yapay zeka sistemlerini eşitlik açısından etkilerini tam olarak anlamadan önce devreye alıp almaması gerektiği konusunda rahatsız edici soruları gündeme getiriyor.

Hasta savunuculuk grupları, sistemin algoritmaları gerçekte karşılayabileceklerinden daha yüksek maliyetleri karşılayabileceklerini belirlediği için gerekli tıbbi tedaviyi geciktiren veya kaçınan Kenyalıların yürek parçalayıcı vakalarını belgeledi. Bazı bireyler, şişirilmiş ücretleri ödemek için birikimlerini tüketirken, diğerleri daha düşük kalitede bakım sunabilen ancak mali açıdan daha yönetilebilir olan daha az resmi sağlık hizmetleri seçeneklerine yöneldi. Bu kişisel hikayeler algoritmik başarısızlıkların gerçek insan maliyetini gösteriyor.

İleriye baktığımızda, Kenya'nın deneyiminin sağlık hizmetlerinde dijital dönüşüm girişimlerini uygulayan diğer ülkeler için önemli dersler sunduğunu söyleyebiliriz. Uzmanlar, hükümetlerin görevlendirilmeden önce şeffaf algoritmik denetimler yapmalarını, yerel bağlamları anlamak için etkilenen topluluklarla iletişim kurmalarını ve herhangi bir birey veya grubun sistematik olarak dezavantajlı duruma düşmesini önleyecek önlemler oluşturmasını tavsiye ediyor. Teknolojinin uygulanmasında deneme-yanılma yaklaşımlarının sağlık hizmetlerinde riskleri çok yüksek.

Başkan Ruto'nun sağlık hizmetlerine erişimin genişletilmesi yönündeki orijinal vaadi, sistem uygulanmadan öncesine kıyasla artık daha yüksek maliyetlerle ve bakım konusunda daha büyük engellerle karşı karşıya olan Kenya'nın en yoksul vatandaşları için yerine getirilmedi. Hükümetin algoritmik sorunları etkili bir şekilde çözüp çözemeyeceği ve seçim taahhütlerini yerine getirip getiremeyeceği açık bir soru olmaya devam ediyor. Soruşturma, teknolojinin kritik sosyal hizmetlerde nasıl kullanıldığının kamuoyu tarafından incelenmesini zorlayan önemli bir hesap verebilirlik mekanizması işlevi görüyor.