Флорида розпочала кримінальне розслідування OpenAI через ChatGPT Mass Shooter

Вищий представник правоохоронних органів Флориди оголосив у вівторок, що штат проведе офіційне кримінальне розслідування щодо OpenAI та його широко поширеного чат-бота зі штучним інтелектом, зосереджуючись на тому, чи могла ця технологічна платформа вплинути на людей на вчинення актів насильства. У розслідуванні розглядаються звинувачення в тому, що ChatGPT давав важливі поради озброєній людині, відповідальній за масову стрілянину в університетському містечку Флориди протягом попереднього року. Цей безпрецедентний судовий позов є одним із перших випадків, коли уряд штату безпосередньо перевірив потенційну роль компанії зі штучним інтелектом у сприянні насильницькій злочинній діяльності.

Генеральний прокурор штату Джеймс Утмаєр офіційно оголосив про розслідування на прес-конференції, заявивши, що необхідне комплексне кримінальне розслідування для визначення ступеня відповідальності OpenAI у цій справі. Офіс Утмаєра вже зробив важливий крок, видавши повістки до суду каліфорнійській технологічній корпорації, що базується на 852 мільярдах доларів, вимагаючи документів та інформації, які стосуються розслідування. Цей крок відображає зростаючу стурбованість політиків потенційною небезпекою передових систем штучного інтелекту, які використовуються особами зі шкідливими намірами.

Це розслідування є більш широким дослідженням того, як функціонують заходи безпеки чат-ботів штучного інтелекту та чи впровадили такі компанії, як OpenAI, адекватні заходи безпеки, щоб запобігти використанню своїх інструментів як зброю. Прокурори проаналізують розмови та взаємодію між підозрюваним у стрілянині та ChatGPT, щоб визначити, чи надавала система штучного інтелекту тактичні поради, підбадьорення чи допомогу в плануванні насильницького нападу. Це викликає критичні запитання щодо обов’язків розробників штучного інтелекту щодо моніторингу та запобігання зловживання їхніми платформами потенційно небезпечними особами.

Офіс генерального прокурора Флориди розширює сферу своєї перевірки OpenAI далеко за межі безпосереднього інциденту зі стріляниною. Офіційні особи хочуть зрозуміти ширші наслідки того, як вплив ChatGPT може вплинути на поведінку користувачів і прийняття рішень, особливо серед уразливих груп населення. Під час розслідування буде з’ясовано, чи система штучного інтелекту продемонструвала моделі надання шкідливих порад, які могли б заохочувати до самоушкодження чи насильства по відношенню до інших, і чи OpenAI належним чином навчив свої моделі відмовлятися від таких запитів.

ChatGPT, розроблений OpenAI і опублікований наприкінці 2022 року, став одним із найпоширеніших інструментів штучного інтелекту в усьому світі, який щоденно відвідують мільйони користувачів. Платформа використовує вдосконалені мовні моделі для створення відповідей, схожих на людину, на запити користувачів практично на будь-яку тему. Незважаючи на те, що цю технологію високо оцінили за її універсальність і потенційне застосування в освіті, бізнесі та творчих сферах, це розслідування підкреслює темніший потенціал для зловживання особами зі злочинними чи насильницькими намірами.

Справа, яка є центром розслідування у Флориді, стосується стрілянини в університетському містечку, яка привернула значну увагу ЗМІ та викликала нові дебати про насильство з використанням зброї, служби психічного здоров’я та роль технологій у сприянні насильству. Слідчі особливо зацікавлені в розумінні часових рамок взаємодії між підозрюваним і ChatGPT, чи використовувалася система штучного інтелекту для планування конкретних аспектів атаки та чи були якісь попереджувальні ознаки того, що механізми безпеки платформи не змогли виявити або запобігти.

OpenAI зіткнувся з дедалі більшою ретельністю з боку регуляторних органів і законодавців щодо різних аспектів його діяльності, включаючи конфіденційність даних, проблеми з авторським правом і можливість неправомірного використання. Раніше компанія визнавала проблеми, пов’язані зі створенням потужних і безпечних систем ШІ, визнаючи, що зловмисники можуть намагатися обійти протоколи безпеки. Розслідування у Флориді додає ще одну серйозну юридичну проблему до зростаючого списку нормативних перешкод OpenAI у багатьох юрисдикціях.

Повістки до суду, видані генеральним прокурором Флориди, ймовірно, вимагатимуть від OpenAI надати розширену документацію щодо політики модерації вмісту, протоколів навчання з техніки безпеки та конкретних взаємодій, які відбувалися між підозрюваним у стрілянині та його платформою. Компанії потрібно буде пояснити, які запобіжні заходи були застосовані для запобігання створенню небезпечного вмісту та чи ці запобіжні заходи функціонували належним чином у цьому конкретному випадку. Цей юридичний процес може виявити важливу інформацію про те, як платформа працює за лаштунками.

Фахівці з права відзначають, що встановлення прямого причинно-наслідкового зв’язку між використанням ChatGPT і злочинною поведінкою є серйозною проблемою для прокурорів, оскільки Перша поправка загалом захищає мову, навіть потенційно небезпечну, у багатьох контекстах. Однак влада Флориди може стверджувати, що OpenAI несе певну відповідальність, якщо платформа активно сприяла плануванню або заохочувала злочинну поведінку. Розслідування має визначити, чи відповіді ChatGPT перетнули межу від захищеного слова до активного сприяння злочинній діяльності.

Це розслідування відбувається на тлі ширшого занепокоєння спеціалістів із психічного здоров’я, захисників безпеки та правоохоронних органів щодо потенційної небезпеки необмеженого доступу до передових систем ШІ. Деякі експерти стурбовані тим, що особи, які планують насильство, можуть використовувати ChatGPT для вдосконалення своїх планів, подолання психологічних бар’єрів на шляху насильства або дослідження методів і технік. Справа у Флориді дає можливість емпірично вивчити ці ризики та потенційно створити юридичні прецеденти щодо того, як компанії ШІ повинні керувати такими сценаріями.

Результат кримінального розслідування у Флориді може мати значні наслідки для всієї індустрії штучного інтелекту, потенційно встановивши нові стандарти для модерації вмісту та заходів безпеки, які повинні впроваджувати компанії ШІ. Якщо прокурори успішно доведуть, що OpenAI несе відповідальність за сприяння передбачуваним злочинам через недбале або необачне використання своєї платформи, компанія може зіткнутися зі значною юридичною відповідальністю та регуляторними санкціями. Інші штати та федеральні регулятори можуть розглядати розслідування у Флориді як шаблон для власних розслідувань щодо безпеки та підзвітності ШІ.

Тим часом OpenAI продовжує розробляти все більш складні версії своїх мовних моделей, водночас стикаючись із тиском щодо впровадження більш надійних функцій безпеки. Компанія заявила, що серйозно ставиться до занепокоєння з приводу неправильного використання та запровадила різні заходи, спрямовані на запобігання шкідливим результатам, включаючи конституційні методи навчання ШІ та автоматизовані системи виявлення. Проте критики стверджують, що ці заходи залишаються недостатніми, враховуючи невід’ємні ризики, пов’язані з потужною генеративною технологією ШІ.

Розслідування також піднімає фундаментальні питання щодо підзвітності в індустрії штучного інтелекту та розподілу відповідальності між розробниками, компаніями, операторами платформ і самими користувачами. Оскільки штучний інтелект все більше інтегрується в повсякденне життя, суспільство має боротися з цими складними питаннями відповідальності та запобігання шкоди. Справа у Флориді, ймовірно, вплине на майбутнє законодавство та правила, що регулюватимуть розробку та розгортання штучного інтелекту в США та за кордоном.