Прозорість AI: Кемпбелл Браун про те, хто контролює інформацію AI

Кемпбелл Браун, колишній керівник відділу новин і зв’язків із громадськістю компанії Meta, став активним прихильником прозорості в тому, як системи штучного інтелекту визначають, яка інформація надходить до користувачів. Її висновки виявляють тривожний розрив між розмовами, що відбуваються в залах засідань Кремнієвої долини, та справжніми занепокоєннями, які висловлюють повсякденні споживачі, які щодня все частіше взаємодіють із технологіями ШІ.

Розрив між корпоративними наративами та суспільним розумінням є однією з найактуальніших проблем у поточному ландшафті ШІ. Точка зору Брауна, сформована роками навігації на перетині технологій, медіа та державної політики, підкреслює, як різні зацікавлені сторони бачать роль ШІ в розповсюдженні інформації. У той час як технологічні компанії зосереджуються на ефективності алгоритмів і бізнес-метриках, споживачі ставлять фундаментальні запитання про підзвітність, упередженість і те, як їхні дані впливають на контент, з яким вони стикаються.

«У Кремнієвій долині розмови точаться про одне, а серед споживачів — зовсім інше», — пояснив Браун, уловлюючи суть цього порушення комунікації. Це спостереження підкреслює критичну проблему, яку технологічна індустрія має вирішити, оскільки системи штучного інтелекту стають все більш центральними для того, як люди отримують доступ до новин, інформації та розваг. Ставки особливо високі, враховуючи, як ці технології впливають на громадську думку та формують інформаційну екосистему.

Під час роботи в Meta Браун на власні очі побачила, як модерація вмісту та алгоритм прийняття рішень розвивалися разом зі зростаючим громадським контролем. Її роль вимагала збалансування бізнес-інтересів компанії зі зростаючим тиском з боку регуляторів, журналістів і правозахисних груп, які вимагали більшої видимості того, як працюють системи Facebook. Ця унікальна перевага дозволила їй служити мостом між технологічним сектором і ширшими суспільними проблемами щодо підзвітності ШІ.

Фундаментальне питання, яке піднімає Браун, оманливо просте, але надзвичайно складне: хто має вирішувати, яку інформацію системи ШІ надають користувачам? У традиційних медіа редактори приймають ці рішення, керуючись журналістськими принципами та редакційними стандартами. Однак системи на основі штучного інтелекту працюють відповідно до алгоритмів, оптимізованих для залучення, прибутку та інших показників, які можуть не відповідати суспільним інтересам. Ця різниця має величезне значення, якщо взяти до уваги те, як мільйони людей отримують щоденні новини та формують свій світогляд.

Підхід Кремнієвої долини до цього питання зазвичай наголошує на інноваціях, виборі користувачів і динаміці ринку. Технологічні лідери стверджують, що алгоритми відображають уподобання користувачів і що конкуренція між платформами природно сприяє кращим результатам. Вони вказують на складність сучасних інформаційних систем і стверджують, що нагляд повинен залишатися легким, щоб зберегти переваги технологічного прогресу. У цій перспективі пріоритетом є зростання та технологічний прогрес як основні блага, які потрібно максимізувати.

Натомість споживачі висловлюють дедалі більше занепокоєння щодо того, як алгоритмічні рекомендації впливають на те, що вони бачать в Інтернеті. Опитування постійно показують, що людей хвилюють бульбашки фільтрів, дезінформація та нездатність зрозуміти, чому певний вміст з’являється в їхніх стрічках. Ці занепокоєння випливають не з антитехнологічних настроїв, а з законних питань щодо чесності, прозорості та зосередженої влади кількох компаній, які контролюють основні інформаційні платформи. Громадські настрої свідчать про те, що поточні системи не належним чином відповідають інтересам користувачів або суспільним потребам.

Пропаганда Брауна відображає зростаючий рух серед колишніх технічних інсайдерів, які вважають, що індустрія має фундаментально переглянути свій підхід до поширення інформації. Ці голоси стверджують, що системи виявлення вмісту потребують структур управління, які врівноважують комерційні інтереси з суспільним добробутом. Замість того, щоб протистояти технологічному прогресу, ця перспектива спрямована на те, щоб інновації служили демократичним цінностям і процвітанню людини, а не підривали їх.

У відповідь на цей тиск нормативно-правове середовище починає змінюватися. Закон Європейського Союзу про цифрові послуги, різноманітні ініціативи на рівні штатів у Сполучених Штатах і запропоноване федеральне законодавство – усі вони спрямовані на встановлення більш чітких правил щодо того, як компанії керують алгоритмічним вмістом. Ці регуляторні зусилля відображають визнання того, що статус-кво є нестійким і що для захисту суспільних інтересів необхідний певний ступінь зовнішнього нагляду.

Наголос Брауна на подоланні розриву в розмові говорить про те, що рішення потребуватимуть справжнього діалогу між технологічними компаніями, політиками, організаціями громадянського суспільства та громадськістю. Наразі ці спільноти діють у здебільшого окремих розмовах, причому кожна група розмовляє переважно зі своїми членами та зміцнює існуючі точки зору. Подолання цих розривів є важливим кроком до розробки підходів, які враховують численні законні проблеми та цінності.

Завдання виходить за рамки новин та інформації й охоплює практично всі сфери, де системи штучного інтелекту приймають відповідні рішення. Від алгоритмів найму до визначення позики, від рекомендацій щодо охорони здоров’я до оцінки кримінального правосуддя, питання про те, хто вирішує, яка інформація кому дістанеться — і відповідно до яких стандартів — впливає на результати життя мільйонів людей. Таким чином, встановлення принципів для прийняття рішень штучним інтелектом має значення далеко за межами медіаіндустрії.

Робота Брауна підкреслює важливість розвитку більшої грамотності ШІ серед широкої громадськості. Коли споживачі розуміють, як працюють алгоритмічні системи та які значення вони кодують, вони стають краще підготовленими, щоб критично оцінювати інформацію та виступати за зміни систем, які впливають на них. Освітні ініціативи, які пояснюють ці поняття доступною мовою, є важливим доповненням до регуляторних і корпоративних реформ.

У майбутньому розмова, яку підтримує Браун, ймовірно, визначить, як суспільства адаптуються до розширення ролі штучного інтелекту в інформаційних системах. Успіх вимагатиме визнання того, що інноваційна перспектива Кремнієвої долини та занепокоєння споживачів щодо підзвітності містять важливі істини. Технологічні компанії володіють справжнім досвідом щодо того, що є технічно можливим і економічно стійким, а громадськість правильно визначає ризики та цінності, які заслуговують на захист.

Шлях уперед, ймовірно, передбачає встановлення чіткіших стандартів прозорості, створення можливостей для громадського внесення інформації про те, як працюють алгоритмічні системи, і створення механізмів підзвітності, які гарантуватимуть, що системи штучного інтелекту служать громадським інтересам поряд із комерційними. Втручання Кемпбелл Браун у ці дебати — перенесення її внутрішніх знань про те, як великі технологічні компанії працюють разом із щирим співчуттям громадським занепокоєнням — пропонує конструктивний приклад того, як можуть почати закриватися розриви в розмові.