El sistema de salud de inteligencia artificial de Kenia falla a los pobres

El presidente William Ruto hizo grandes promesas durante un período de importantes disturbios civiles en Kenia, prometiendo que su administración garantizaría el acceso universal a la atención médica para todos los ciudadanos. Sin embargo, una investigación exclusiva ha descubierto una realidad preocupante: el sistema de inteligencia artificial diseñado para determinar la asequibilidad de los servicios de atención médica ha aumentado sistemáticamente los costos para las poblaciones más vulnerables del país, al tiempo que favorece a los kenianos más ricos, que pueden absorber más fácilmente los mayores gastos.

El algoritmo sanitario de IA que es el centro de la ambiciosa reforma del sistema de salud de Kenia se implementó como parte de una iniciativa integral de transformación digital. En lugar de crear un acceso equitativo, el sistema ha demostrado un sesgo persistente contra los kenianos de bajos ingresos, lo que plantea serias dudas sobre cómo la tecnología evalúa la capacidad financiera y determina las estructuras de precios. Esta discriminación algorítmica representa un fracaso fundamental de la tecnología para cumplir los objetivos declarados por el gobierno de cobertura sanitaria universal.

Lanzado en octubre de 2024, el nuevo sistema de salud de Kenia fue diseñado explícitamente para modernizar y reemplazar el antiguo marco de seguro nacional del país que había permanecido prácticamente sin cambios durante décadas. El gobierno posicionó esta reforma como un logro histórico que revolucionaría la prestación de atención médica en todo el país y garantizaría que incluso los kenianos más pobres pudieran acceder a servicios médicos esenciales sin enfrentar una catástrofe financiera.

La investigación revela que la reforma sanitaria impulsada por la IA contiene fallas fundamentales en la forma en que evalúa los ingresos de los hogares, la situación laboral y la capacidad financiera general. El algoritmo parece subestimar consistentemente las circunstancias financieras de los hogares pobres mientras sobreestima las de los ciudadanos más ricos, creando una estructura de incentivos perversa donde los costos aumentan precisamente para aquellos que tienen menos capacidad de pagar. Este sesgo sistemático sugiere un diseño de algoritmo inadecuado o pruebas insuficientes antes del lanzamiento nacional.

Los costos de atención médica para las poblaciones vulnerables se han disparado desde la implementación del sistema, y los informes indican que los kenianos pobres ahora pagan significativamente más por los servicios médicos básicos que bajo el anterior sistema de seguro nacional. La carga financiera ha obligado a algunas familias a renunciar por completo al tratamiento médico necesario, creando una crisis de salud pública que contradice directamente el mandato electoral del presidente Ruto de mejorar el acceso a la salud. La situación pone de relieve cómo las soluciones tecnológicas pueden perpetuar las desigualdades sociales existentes cuando no se diseñan cuidadosamente teniendo en cuenta consideraciones de equidad.

El problema del sesgo del algoritmo sanitario se extiende más allá de los simples mecanismos de fijación de precios. La categorización de pacientes que hace el sistema parece depender de puntos de datos que no son predictores significativos de las dificultades financieras reales en el contexto de Kenia. Muchos kenianos pobres trabajan en sectores informales con patrones de ingresos irregulares que el algoritmo tiene dificultades para evaluar adecuadamente, lo que lleva a clasificaciones erróneas y asignaciones de costos inapropiadas. Esta limitación técnica revela una brecha peligrosa entre cómo se diseñan los sistemas de IA en entornos controlados y cómo funcionan en contextos del mundo real con realidades socioeconómicas complejas.

Los expertos en equidad digital y justicia algorítmica señalan que la experiencia de Kenia sirve como advertencia para otras naciones en desarrollo que están considerando reformas sanitarias impulsadas por la IA. Sin pruebas rigurosas de sesgo, particularmente contra poblaciones históricamente marginadas, estos sistemas pueden afianzar inadvertidamente las desigualdades existentes y al mismo tiempo parecer neutrales y objetivos. La percepción de la IA como intrínsecamente justa e imparcial puede en realidad enmascarar problemas subyacentes que se manifiestan sólo cuando los sistemas se implementan a escala en poblaciones diversas.

Las fallas del sistema de salud han provocado importantes críticas por parte de organizaciones de la sociedad civil, defensores de la atención médica y políticos de oposición que argumentan que el gobierno apresuró la implementación sin las salvaguardias adecuadas. Múltiples investigaciones realizadas por investigadores independientes han documentado casos en los que circunstancias financieras idénticas produjeron evaluaciones de asequibilidad muy diferentes dependiendo de otras variables que el algoritmo ponderó, lo que sugiere inconsistencia y posible discriminación incorporada en el modelo de aprendizaje automático.

Los funcionarios del gobierno han respondido a la investigación reconociendo que pueden ser necesarios ajustes, pero han defendido el enfoque general como una modernización necesaria de la infraestructura sanitaria de Kenia. Sostienen que la transformación de la tecnología sanitaria implica inevitablemente períodos de transición con imperfecciones y que el sistema mejorará a medida que se recopilen más datos y se perfeccione el algoritmo. Sin embargo, los críticos sostienen que esta respuesta es inadecuada dado el daño inmediato que sufren las poblaciones vulnerables que no pueden permitirse el lujo de esperar a mejoras graduales.

No se puede ignorar el contexto más amplio de los desafíos de atención médica de Kenia al evaluar las fallas de este sistema. El país ha luchado durante mucho tiempo con recursos sanitarios limitados, disparidades geográficas en el acceso a los servicios y financiación insuficiente para la infraestructura de salud pública. Muchos observadores esperaban que las soluciones sanitarias de IA pudieran ayudar a optimizar recursos limitados y mejorar la eficiencia, pero en cambio, la tecnología ha creado nuevas barreras para los ciudadanos más pobres.

Los expertos técnicos han sugerido que el algoritmo podría corregirse mediante una nueva capacitación con conjuntos de datos mejor diseñados que reflejen con mayor precisión las realidades socioeconómicas de las poblaciones pobres de Kenia. Sin embargo, esto requeriría una inversión y tiempo adicionales significativos, lo que retrasaría el alivio para aquellos actualmente perjudicados por el sistema. La situación plantea preguntas incómodas sobre si los gobiernos deberían implementar sistemas complejos de IA antes de comprender plenamente sus implicaciones para la equidad.

Los grupos de defensa de los pacientes han documentado casos desgarradores de kenianos que han retrasado o evitado el tratamiento médico necesario porque los algoritmos del sistema determinaron que podían afrontar costos más altos de los que realmente podían. Algunas personas han agotado sus ahorros para pagar tarifas infladas, mientras que otras han recurrido a opciones de atención médica menos formales que pueden ofrecer atención de menor calidad pero que resultan más manejables financieramente. Estas historias personales ilustran el costo humano real de las fallas algorítmicas.

De cara al futuro, la experiencia de Kenia ofrece lecciones importantes para otros países que implementan iniciativas de transformación digital de la atención médica. Los expertos recomiendan que los gobiernos se comprometan a realizar auditorías algorítmicas transparentes antes del despliegue, interactúen con las comunidades afectadas para comprender los contextos locales e incorporen salvaguardias que impidan que cualquier individuo o grupo quede sistemáticamente en desventaja. Hay mucho en juego en la atención sanitaria como para adoptar enfoques de prueba y error en la implementación de tecnología.

La promesa original del presidente Ruto de ampliar el acceso a la atención médica sigue sin cumplirse para los ciudadanos más pobres de Kenia, quienes ahora enfrentan costos más altos y mayores barreras para acceder a la atención médica que antes de que se implementara el sistema. Sigue siendo una cuestión abierta si el gobierno puede remediar eficazmente los problemas algorítmicos y cumplir con sus compromisos electorales. La investigación sirve como un mecanismo crucial de rendición de cuentas, lo que obliga a un examen público de cómo se está implementando la tecnología en servicios sociales críticos.