OpenAI стикається з судовими позовами через передбачувані посилання ChatGPT Shooter

OpenAI зіткнувся з серйозною юридичною перевіркою після звинувачень у тому, що компанія штучного інтелекту могла запобігти одному з найбільш руйнівних масових розстрілів у Канаді. У середу до суду Каліфорнії було подано сім окремих позовів, кожен з яких представляв тривожну розповідь про те, як компанія нібито надала перевагу конфіденційності користувачів над громадською безпекою в ситуації, коли були чіткі ознаки насильства.

Відповідно до судових позовів і облікових записів інформаторів, команда внутрішньої безпеки OpenAI ідентифікувала конкретний обліковий запис ChatGPT більш ніж за вісім місяців до трагічної стрілянини. Підготовлені експерти з безпеки позначили цей обліковий запис як такий, що представляє реальну та неминучу загрозу насильства зі зброєю в реальному світі. Відповідно до встановлених протоколів, після виявлення таких загроз OpenAI має негайно повідомити правоохоронні органи — крок, який стає ще більш критичним, коли ці органи вже мають відомості про особу.

У цьому конкретному випадку місцева поліція раніше вела досьє на особу та вжила превентивних заходів, вилучивши вогнепальну зброю з її помешкання. Це попереднє втручання правоохоронних органів мало посилити аргументи для сповіщення, але внутрішні комунікації та подальші рішення свідчать про те, що OpenAI обрала інший шлях. Замість того, щоб попередити владу про потенційну небезпеку, керівництво компанії свідомо вирішило віддати пріоритет іншим міркуванням.

Згідно з джерелами, які спілкувалися з The Wall Street Journal, міркування OpenAI для відхилення його рекомендацій команди безпеки зосереджені на занепокоєнні щодо конфіденційності користувача та занепокоєнні щодо стресу, який може спричинити контакт із поліцією. Керівники компанії зважили ці міркування — комфорт і конфіденційність особи, позначеної як потенційна загроза насильства — з цілком реальними ризиками насильства, які відбуваються у фізичному світі. Цей розрахунок є значним відхиленням від стандартних протоколів безпеки, які надають пріоритет запобіганню загроз у сценаріях високого ризику.

Відповідь компанії на позначений обліковий запис продемонструвала тривожну послідовність дій, згідно з юридичними документами. Замість того, щоб повідомляти про користувача правоохоронним органам, OpenAI просто деактивував обліковий запис ChatGPT, пов’язаний із загрозливою поведінкою. Однак потім компанія нібито зробила додатковий крок, який прихильники безпеки визнали особливо тривожним: OpenAI, як повідомляється, зв’язався з користувачем і надав вказівки щодо того, як обійти деактивацію облікового запису, створивши новий обліковий запис за допомогою альтернативної адреси електронної пошти. Ця дія фактично дозволила продовжити доступ до платформи людині, яку експерти компанії вважали загрозою.

Інцидент зі стріляниною в школі, який став поштовхом до цих судових процесів, є однією з найбільш смертоносних масових трагедій в історії Канади, що робить звинувачення проти OpenAI особливо значущими. Трагедія підняла термінові питання щодо відповідальності компаній, що займаються технологіями ШІ, коли вони володіють інформацією про потенційні загрози. На відміну від традиційних технологічних платформ, які в основному займаються обміном інформацією, системи штучного інтелекту, навчені величезними наборами даних, мають унікальні можливості для виявлення закономірностей і потенційних небезпек за допомогою взаємодії користувачів і поведінкових сигналів.

Ця справа підкреслює зростаючу напругу між правами на конфіденційність і громадською безпекою в епоху передових технологій. Політика модерації вмісту у великих технологічних компаніях давно бореться з цим балансом, але запровадження потужних мовних моделей штучного інтелекту ускладнило ці рішення. Користувачі ChatGPT взаємодіють із системою таким чином, щоб розкрити наміри, плани та психологічні стани, створюючи ситуацію, коли система та її оператори потенційно мають більше інформації про індивідуальні моделі поведінки, ніж традиційні платформи.

Ці позови є потенційним переломним моментом у тому, як компанії зі штучним інтелектом несуть відповідальність за протоколи безпеки. У разі успіху вони зможуть створити важливі правові прецеденти про те, коли і як компанії повинні передавати інформацію про загрози владі. Справи також піднімають ширші питання щодо відповідальності OpenAI як провідного гравця в галузі штучного інтелекту та того, як компанія врівноважує інновації з серйозним зобов’язанням щодо захисту громадської безпеки.

Рішення керівництва компанії відхилити рекомендації групи безпеки свідчить про організаційні збої на багатьох рівнях. Експерти з безпеки виконали свою роботу — виявили загрози та рекомендували відповідні дії. Проте структурні стимули чи пріоритети в OpenAI призвели до того, що ці рекомендації не враховувалися. Цей розрив між технічною експертизою безпеки та прийняттям виконавчих рішень викликає запитання про те, як компанії зі штучним інтелектом визначають пріоритети та впроваджують свої системи безпеки.

У майбутньому ці позови, ймовірно, спонукають інші компанії ШІ оцінити власні процедури виявлення загроз і звітування. Ця справа може вплинути на те, як уся галузь підійде до відповідальності повідомляти владі про небезпечних користувачів. У міру того як системи штучного інтелекту стають більш інтегрованими в суспільство і все більше людей взаємодіють з ними особистими та потенційно викриваючими способами, питання про те, як компанії обробляють інформацію про загрози, стає все більш актуальним і важливим для громадської безпеки.

Наслідки виходять за межі самого OpenAI. Інші великі технологічні компанії та компанії, що займаються штучним інтелектом, спостерігають за тим, як розгортається ця правова ситуація, оскільки вона, ймовірно, вплине на галузеві стандарти, юридичні очікування та нормативні вимоги в майбутньому. Баланс між конфіденційністю користувачів і громадською безпекою, який давно обговорюється в контексті традиційних соціальних медіа, тепер піддається новому дослідженню в сфері вдосконаленого штучного інтелекту, де ставки та можливості здаються ще вищими.