NHS надає Palantir «небезпечний» доступ до даних пацієнтів
Депутати критикують рішення Національної служби охорони здоров’я Англії надати американській технологічній фірмі Palantir необмежений доступ до ідентифікованих даних пацієнтів для проекту охорони здоров’я штучного інтелекту, що викликає занепокоєння щодо конфіденційності.
Значною подією, яка викликала значні суперечки в парламентських колах, є те, що депутати підняли серйозну тривогу через рішення Національної служби охорони здоров’я Англії надати американській технологічній компанії Palantir широкий доступ до ідентифікаційної інформації про пацієнтів. Це рішення, прийняте в рамках амбітної ініціативи щодо використання штучного інтелекту для покращення послуг охорони здоров’я, було охарактеризовано законодавцями як принципово «небезпечне» та потенційно завдає шкоди суспільній довірі до улюбленої національної системи охорони здоров’я.
Це відкриття, про яке спочатку повідомила Financial Times, викриває те, що багато хто вважає тривожним розривом між заявленими зобов’язаннями щодо конфіденційності та фактичними методами обробки даних. Згідно з повідомленнями, Palantir отримав необмежений доступ до конфіденційних записів пацієнтів до того, як ці записи пройдуть важливий процес псевдонімізації — критично важливого кроку анонімізації, який має захистити особисту конфіденційність. Ця домовленість різко суперечить широко поширеним очікуванням щодо того, як таку конфіденційну особисту інформацію про здоров’я слід обробляти та захищати.
Керівництво NHS England виправдало цей підхід як необхідний для розробки інтегрованої платформи, призначеної для покращення надання медичної допомоги по всій країні. Проект спрямований на використання передових можливостей штучного інтелекту для аналізу закономірностей, прогнозування наслідків для здоров’я та, зрештою, покращення догляду за пацієнтами на системному рівні. Однак засоби, за допомогою яких переслідується ця благородна мета — надання необмеженого доступу до незахищених даних пацієнтів — стали центральною точкою розбіжностей.
Внутрішня документація NHS, переглянута ЗМІ, які розслідували цю історію, показує, що керівництво організації чітко усвідомлювало наслідки для конфіденційності та ризики, пов’язані з цією домовленістю. Зокрема, посилання на внутрішні комунікації викликає занепокоєння щодо «ризику втрати довіри громадськості», що виникає через рішення дозволити підрядникам і зовнішнім технологічним партнерам отримувати доступ до інформації про пацієнта в її ідентифікаційній формі. Це визнання потенційної шкоди репутації викликає важливі питання про те, чому рішення було прийнято, незважаючи на ці визнані занепокоєння.
Залучення технічних підрядників із США додає додатковий рівень складності розмові про конфіденційність. Окрім доступу Palantir, іншим американським підрядникам також було надано попередній доступ до ідентифікованих даних пацієнтів у рамках процесу розробки платформи. Цей багатонаціональний доступ до дуже конфіденційної інформації про здоров’я, що надходить від британських громадян, викликав запитання щодо суверенітету даних, міжнародних стандартів захисту даних і адекватності існуючих гарантій.
Парламентські критики підкреслили, що це рішення в корені суперечить очікуванням громадськості щодо безпеки медичних даних і принципів, які повинні лежати в основі Національної служби охорони здоров’я. Національна служба охорони здоров’я, як установа, що фінансується державою, діє за неявною соціальною угодою з британським населенням, згідно з якою особиста інформація про здоров’я, надана організації, буде захищена з максимальною ретельністю та розсудливістю. Порушення цієї неявної угоди, фактичні чи уявні, можуть суттєво підірвати довіру громадськості до установи.
Суперечка виникає в особливо делікатний момент для дискусій навколо штучного інтелекту в охороні здоров’я. Оскільки системи охорони здоров’я в усьому світі досліджують застосування ШІ для діагностичної підтримки, оптимізації лікування та ефективності роботи, питання про доступ до даних і конфіденційність стають все більш помітними в публічному дискурсі. Ситуація з NHS є прикладом напруги між технологічними інноваціями та захистом конфіденційності — баланс, який, на думку багатьох, у цьому випадку було досягнуто неправильно.
Регуляторні органи та органи із захисту даних традиційно наголошують на важливості псевдонімізації як важливої гарантії під час обробки особистої інформації про здоров’я. Практика передбачає видалення або заміну ідентифікованих елементів у наборах даних, таких як імена та номери національного страхування, на штучні ідентифікатори або кодові номери. Ця техніка дозволяє дослідникам і розробникам технологій працювати з даними, значно знижуючи ризик ідентифікації осіб. Рішення надати доступ до цього процесу псевдонімізації є суттєвим відхиленням від встановлених передових практик.
Депутати закликали негайно прояснити обсяг доступу Palantir, тривалість цієї домовленості про доступ і конкретні гарантії, які застосовуються для запобігання зловживанням або несанкціонованому вторинному використанню даних. Було подано кілька депутатських питань із запитами щодо детальної інформації про договірні угоди, оцінки впливу на захист даних та механізми нагляду. Здається, законодавчий орган має намір точно зрозуміти, як і чому було прийнято це рішення.
Занепокоєння законодавців щодо конфіденційності відображають ширші занепокоєння в громадському середовищі щодо корпоративного доступу до персональних даних про здоров’я. В останні роки численні інциденти, пов’язані з технологічними компаніями та особистими даними, сприяли підвищенню суспільного скепсису щодо того, як корпорації обробляють конфіденційну інформацію. Втрачену довіру, як відомо, важко відновити, і організації охорони здоров’я повинні бути особливо уважними до збереження довіри громадськості до своїх методів управління даними.
NHS England зазначила, що для захисту даних пацієнтів, до яких Palantir та інші підрядники мають доступ, застосовуються відповідні протоколи керування інформацією та заходи безпеки. Офіційні особи підкреслили, що домовленості є тимчасовими, і доступ до даних планується припинити після завершення етапу розробки платформи. Крім того, вони наголосили, що процес псевдонімізації відбудеться після початкової фази розробки та тестування. Однак ці запевнення мало чим заспокоїли парламентську та громадську стурбованість щодо поточної ситуації.
Ситуація підкреслює складність впровадження широкомасштабних технологічних ініціатив у системах охорони здоров’я, що фінансуються державою, де необхідно якимось чином узгодити численні конкуруючі інтереси — інновації, ефективність, захист конфіденційності та громадську довіру. Проблеми, з якими стикається Національна служба охорони здоров’я Англії, намагаючись збалансувати передовий технологічний розвиток із суворими гарантіями конфіденційності, відображають системну напруженість, з якою стикаються організації охорони здоров’я в усьому світі, коли вони орієнтуються в умовах штучного інтелекту та аналізу даних, що швидко розвиваються.
У майбутньому вирішення цієї суперечки, ймовірно, створить важливі прецеденти того, як державні служби охорони здоров’я підходять до доступу до даних для розвитку технологій. Чи зможе Національна служба охорони здоров’я Англії успішно впровадити свою амбітну платформу штучного інтелекту, належним чином захищаючи конфіденційність пацієнтів, ще належить побачити. Однак очевидно, що зараз організація стикається із значним тиском, щоб продемонструвати, що технологічний прогрес не обов’язково відбувається за рахунок фундаментальних принципів конфіденційності та суспільної довіри.
