Кенійська система охорони здоров’я зі штучним інтелектом підводить бідних

Президент Вільям Руто дав масштабні обіцянки під час значних громадянських заворушень у Кенії, пообіцявши, що його адміністрація гарантуватиме загальний доступ до медичної допомоги для всіх громадян. Однак ексклюзивне розслідування виявило тривожну реальність: система штучного інтелекту, розроблена для визначення доступності послуг охорони здоров’я, систематично збільшувала витрати для найбільш уразливих верств населення країни, водночас віддаючи перевагу заможнішим кенійцям, яким легше покривати збільшені витрати.

Алгоритм охорони здоров’я штучного інтелекту в центрі амбітної реконструкції системи охорони здоров’я Кенії було впроваджено в рамках комплексної ініціативи цифрової трансформації. Замість того, щоб створити справедливий доступ, система продемонструвала постійне упередження проти кенійців з низьким рівнем доходу, викликаючи серйозні питання щодо того, як технологія оцінює фінансову спроможність і визначає структури ціноутворення. Ця алгоритмічна дискримінація є фундаментальною нездатністю технології досягти заявлених урядом цілей щодо загального охоплення медичними послугами.

Нова система охорони здоров’я Кенії, запущена в жовтні 2024 року, була спеціально розроблена для модернізації та заміни застарілої системи національного страхування країни, яка залишалася майже незмінною протягом десятиліть. Уряд позиціонував цю реформу як знакове досягнення, яке революціонізує надання медичних послуг по всій країні та забезпечить доступ навіть найбідніших кенійців до основних медичних послуг, не зазнаючи фінансової катастрофи.

Розслідування показує, що реформа охорони здоров’я, керована штучним інтелектом, містить фундаментальні недоліки в тому, як вона оцінює дохід сім’ї, статус зайнятості та загальну фінансову спроможність. Схоже, що алгоритм постійно недооцінює фінансовий стан бідних домогосподарств, водночас переоцінюючи фінансовий стан заможніших громадян, створюючи спотворену структуру стимулів, де витрати зростають саме для тих, хто найменше платить. Це систематичне упередження свідчить або про неадекватний дизайн алгоритму, або про недостатнє тестування перед розгортанням на національному рівні.

Витрати на охорону здоров’я для вразливих верств населення різко зросли після запровадження системи, і звіти свідчать про те, що бідні кенійці тепер платять значно більше за базові медичні послуги, ніж за попередньої системи національного страхування. Фінансовий тягар змусив деякі сім’ї повністю відмовитися від необхідного медичного лікування, створюючи кризу громадського здоров’я, яка прямо суперечить виборчому мандату президента Руто щодо покращення доступу до охорони здоров’я. Ситуація показує, як технологічні рішення можуть увічнити існуючу соціальну нерівність, якщо вони не розроблені ретельно з міркувань справедливості.

Проблема зміщення алгоритму охорони здоров’я виходить за межі простих механізмів ціноутворення. Категоризація пацієнтів у системі, здається, спирається на дані, які не є значущими показниками фактичних фінансових труднощів у контексті Кенії. Багато бідних кенійців працюють у неформальному секторі з нерегулярними моделями доходів, які алгоритму важко правильно оцінити, що призводить до неправильної класифікації та невідповідного призначення витрат. Це технічне обмеження виявляє небезпечний розрив між тим, як системи штучного інтелекту розроблені в контрольованих середовищах, і тим, як вони функціонують у контексті реального світу зі складними соціально-економічними реаліями.

Експерти з цифрового капіталу та алгоритмічної справедливості зазначають, що досвід Кенії є застереженням для інших країн, що розвиваються, які розглядають реформи охорони здоров’я на основі ШІ. Без ретельного тестування на упередженість, особливо щодо історично маргіналізованих груп населення, ці системи можуть ненавмисно закріпити існуючу нерівність, видаючись нейтральними та об’єктивними. Сприйняття штучного інтелекту як за своєю суттю чесного та неупередженого може насправді маскувати глибинні проблеми, які виявляються лише тоді, коли системи розгортаються в масштабах серед різних груп населення.

Недоліки системи охорони здоров’я викликали серйозну критику з боку організацій громадянського суспільства, прихильників охорони здоров’я та опозиційних політиків, які стверджують, що уряд поспішив із запровадженням без належних гарантій. Численні дослідження, проведені незалежними дослідниками, задокументували випадки, коли ідентичні фінансові обставини створювали дуже різні оцінки доступності залежно від інших змінних, зважених алгоритмом, що свідчить про непослідовність і потенційну дискримінацію, вбудовану в модель машинного навчання.

Урядові чиновники відповіли на розслідування, визнавши, що коригування можуть знадобитися, але захистили загальний підхід як необхідну модернізацію інфраструктури охорони здоров’я Кенії. Вони стверджують, що трансформація технологій охорони здоров’я неминуче передбачає перехідні періоди з недоліками, і що система вдосконалюватиметься, коли збиратиметься більше даних і вдосконалюватиметься алгоритм. Проте критики стверджують, що ця відповідь є неадекватною, враховуючи безпосередню шкоду, яку зазнають уразливі верстви населення, які не можуть дозволити собі чекати поступових покращень.

Оцінюючи недоліки цієї системи, не можна ігнорувати ширший контекст проблем охорони здоров’я Кенії. Країна довго боролася з обмеженими ресурсами охорони здоров’я, географічними відмінностями в доступі до послуг і недостатнім фінансуванням інфраструктури охорони здоров’я. Багато спостерігачів сподівалися, що рішення ШІ для охорони здоров’я допоможуть оптимізувати обмежені ресурси та підвищити ефективність, але замість цього технологія створила нові бар’єри для найбідніших громадян.

Технічні експерти припустили, що алгоритм можна виправити шляхом перенавчання за допомогою кращих наборів даних, які точніше відображають соціально-економічні реалії бідного населення Кенії. Однак це потребуватиме значних додаткових інвестицій і часу, що відкладе надання допомоги тим, хто зараз постраждав від системи. Ситуація викликає неприємні запитання про те, чи варто урядам розгортати складні системи штучного інтелекту, перш ніж повністю зрозуміти їхні наслідки для справедливості.

Групи захисту прав пацієнтів задокументували жахливі випадки кенійців, які відкладали або уникали необхідного лікування, оскільки алгоритми системи визначили, що вони можуть дозволити собі вищі витрати, ніж насправді. Деякі люди вичерпали заощадження, щоб сплачувати завищені збори, тоді як інші звернулися до менш офіційних варіантів охорони здоров’я, які можуть пропонувати нижчу якість обслуговування, але виявляються більш фінансово керованими. Ці особисті історії ілюструють реальну людську ціну помилок алгоритмів.

Заглядаючи вперед, досвід Кенії дає важливі уроки для інших країн, які впроваджують ініціативи цифрової трансформації охорони здоров’я. Експерти рекомендують урядам взяти на себе зобов’язання проводити прозорі алгоритмічні аудити перед розгортанням, взаємодіяти з постраждалими громадами, щоб зрозуміти місцевий контекст, і створювати гарантії, які запобігатимуть тому, щоб будь-яка особа чи група систематично потрапляли в невигідне становище. Ставки в охороні здоров’я занадто високі для підходів до впровадження технологій методом проб і помилок.

Початкова обіцянка президента Руто розширити доступ до медичної допомоги залишається невиконаною для найбідніших громадян Кенії, які тепер стикаються з вищими витратами та більшими бар’єрами в лікуванні, ніж до запровадження системи. Питання, чи зможе уряд ефективно усунути алгоритмічні проблеми та виконати свої передвиборчі зобов’язання, залишається відкритим. Розслідування є ключовим механізмом підзвітності, змушуючи громадськість перевіряти, як технології розгортаються в критичних соціальних службах.