Kenias KI-Gesundheitssystem lässt die Armen im Stich

Präsident William Ruto machte in einer Zeit erheblicher Unruhen in Kenia weitreichende Versprechungen und versprach, dass seine Regierung allen Bürgern den allgemeinen Zugang zur Gesundheitsversorgung garantieren werde. Eine exklusive Untersuchung hat jedoch eine besorgniserregende Realität ans Licht gebracht: Das System der künstlichen Intelligenz, das die Erschwinglichkeit von Gesundheitsdiensten bestimmen soll, hat die Kosten für die am stärksten gefährdeten Bevölkerungsgruppen des Landes systematisch erhöht und gleichzeitig wohlhabendere Kenianer begünstigt, die die höheren Ausgaben leichter verkraften können.

Der KI-Algorithmus für das Gesundheitswesen, der im Mittelpunkt der ehrgeizigen Reform des kenianischen Gesundheitssystems steht, wurde im Rahmen einer umfassenden Initiative zur digitalen Transformation implementiert. Anstatt einen gleichberechtigten Zugang zu schaffen, hat das System eine anhaltende Voreingenommenheit gegenüber einkommensschwachen Kenianern gezeigt und ernsthafte Fragen darüber aufgeworfen, wie die Technologie die finanzielle Leistungsfähigkeit bewertet und Preisstrukturen bestimmt. Diese algorithmische Diskriminierung stellt ein grundlegendes Versagen der Technologie dar, die erklärten Ziele der Regierung einer allgemeinen Gesundheitsversorgung zu erreichen.

Kenias neues Gesundheitssystem wurde im Oktober 2024 eingeführt und war ausdrücklich darauf ausgelegt, das veraltete nationale Versicherungssystem des Landes zu modernisieren und zu ersetzen, das seit Jahrzehnten weitgehend unverändert geblieben war. Die Regierung bezeichnete diese Reform als eine bahnbrechende Errungenschaft, die die Gesundheitsversorgung im ganzen Land revolutionieren und sicherstellen würde, dass selbst die ärmsten Kenianer Zugang zu lebenswichtigen medizinischen Dienstleistungen erhalten, ohne in eine finanzielle Katastrophe zu geraten.

Die Untersuchung zeigt, dass die KI-gesteuerte Gesundheitsreform grundlegende Mängel bei der Bewertung des Haushaltseinkommens, des Beschäftigungsstatus und der gesamten finanziellen Leistungsfähigkeit aufweist. Der Algorithmus scheint die finanzielle Situation armer Haushalte ständig zu unterschätzen und die wohlhabenderer Bürger zu überschätzen, wodurch eine perverse Anreizstruktur entsteht, bei der die Kosten genau für diejenigen in die Höhe schnellen, die am wenigsten zahlen können. Diese systematische Verzerrung deutet entweder auf ein unzureichendes Algorithmusdesign oder unzureichende Tests vor der landesweiten Einführung hin.

Die Gesundheitskosten für gefährdete Bevölkerungsgruppen sind seit der Einführung des Systems stark gestiegen. Berichten zufolge zahlen arme Kenianer nun deutlich mehr für die medizinische Grundversorgung als im vorherigen nationalen Versicherungssystem. Die finanzielle Belastung hat einige Familien dazu gezwungen, vollständig auf notwendige medizinische Behandlung zu verzichten, was zu einer Krise der öffentlichen Gesundheit geführt hat, die dem Wahlauftrag von Präsident Ruto, den Zugang zur Gesundheitsversorgung zu verbessern, direkt widerspricht. Die Situation zeigt, wie technologische Lösungen bestehende soziale Ungleichheiten aufrechterhalten können, wenn sie nicht sorgfältig unter Berücksichtigung von Gerechtigkeitsaspekten konzipiert werden.

Das Problem der Voreingenommenheit von Gesundheitsalgorithmen geht über einfache Preismechanismen hinaus. Die Kategorisierung von Patienten durch das System scheint auf Datenpunkten zu beruhen, die im kenianischen Kontext keine aussagekräftigen Indikatoren für die tatsächliche finanzielle Not sind. Viele arme Kenianer arbeiten in informellen Sektoren mit unregelmäßigen Einkommensmustern, die der Algorithmus nur schwer richtig einschätzen kann, was zu Fehlklassifizierungen und unangemessenen Kostenzuweisungen führt. Diese technische Einschränkung offenbart eine gefährliche Lücke zwischen der Art und Weise, wie KI-Systeme in kontrollierten Umgebungen entworfen werden, und ihrer Funktionsweise in realen Kontexten mit komplexen sozioökonomischen Realitäten.