OpenAI сталкивается с судебными исками из-за предполагаемых ссылок на шутеры ChatGPT

OpenAI подвергается серьезному судебному разбирательству после обвинений в том, что компания по искусственному интеллекту могла предотвратить одно из самых разрушительных массовых расстрелов в Канаде. В среду в суд Калифорнии было подано семь отдельных исков, в каждом из которых содержалась тревожная история о том, как компания якобы отдавала приоритет конфиденциальности пользователей над общественной безопасностью в ситуации, когда явно присутствовали признаки насилия.

Согласно судебным искам и сообщениям информаторов, команда внутренней безопасности OpenAI идентифицировала конкретную учетную запись ChatGPT более чем за восемь месяцев до того, как произошла трагическая стрельба. Обученные эксперты по безопасности пометили это сообщение как представляющее реальную и непосредственную угрозу реального насилия с применением огнестрельного оружия. Согласно установленным протоколам, при обнаружении таких угроз OpenAI должна немедленно уведомить правоохранительные органы — шаг, который становится еще более важным, когда эти органы уже располагают информацией о человеке.

В данном конкретном случае местная полиция ранее вела дело на этого человека и приняла превентивные меры, убрав огнестрельное оружие из его дома. Это предварительное вмешательство правоохранительных органов должно было укрепить аргументы в пользу уведомления, однако внутренние сообщения и последующие решения позволяют предположить, что OpenAI выбрала другой путь. Вместо того, чтобы предупредить власти о потенциальной опасности, руководство компании сделало осознанный выбор, отдав приоритет другим соображениям.

По данным источников The Wall Street Journal, причина отклонения OpenAI ее рекомендаций группы безопасности основывалась на опасениях по поводу конфиденциальности пользователей и опасениях по поводу стресса, который может вызвать контакт с полицией. Руководители компаний сопоставили эти соображения — комфорт и конфиденциальность человека, отмеченного как потенциальная угроза насилия — с вполне реальными рисками насилия, происходящего в физическом мире. Этот расчет представляет собой значительный отход от стандартных протоколов безопасности, которые отдают приоритет предотвращению угроз в сценариях высокого риска.

Согласно юридическим документам, реакция компании на помеченный аккаунт продемонстрировала тревожную последовательность действий. Вместо того, чтобы сообщить о пользователе правоохранительным органам, OpenAI просто деактивировала учетную запись ChatGPT, связанную с угрожающим поведением. Однако затем компания якобы предприняла дополнительный шаг, который защитники безопасности находят особенно тревожным: как сообщается, OpenAI связалась с пользователем и предоставила рекомендации, как обойти деактивацию учетной записи, создав новую учетную запись с использованием альтернативного адреса электронной почты. Это действие фактически обеспечило постоянный доступ к платформе тем, кого собственные эксперты компании сочли угрозой.

Инцидент со стрельбой в школе, ставший причиной этих судебных исков, представляет собой одну из самых смертоносных массовых трагедий в истории Канады, что делает обвинения против OpenAI особенно значимыми. Трагедия подняла острые вопросы об ответственности компаний, занимающихся технологиями искусственного интеллекта, когда они располагают информацией о потенциальных угрозах. В отличие от традиционных технологических платформ, которые занимаются в основном обменом информацией, системы искусственного интеллекта, обученные на обширных наборах данных, обладают уникальными возможностями выявлять закономерности и потенциальные опасности посредством взаимодействия с пользователем и поведенческих сигналов.

Этот случай подчеркивает растущее противоречие между правами на неприкосновенность частной жизни и общественной безопасностью в век передовых технологий. Политики модерации контента в крупных технологических компаниях уже давно пытаются найти этот баланс, но внедрение мощных языковых моделей искусственного интеллекта еще больше усложнило эти решения. Пользователи ChatGPT взаимодействуют с системой способами, которые могут раскрыть намерения, планы и психологические состояния, создавая ситуацию, когда система и ее операторы потенциально имеют больше информации об индивидуальных моделях поведения, чем традиционные платформы.

Эти иски представляют собой потенциальный переломный момент в том, как компании, занимающиеся искусственным интеллектом, несут ответственность за протоколы безопасности. В случае успеха они смогут создать важные правовые прецеденты относительно того, когда и как компании должны передавать информацию об угрозах властям. Эти дела также поднимают более широкие вопросы о ответственности OpenAI как ведущего игрока в индустрии искусственного интеллекта и о том, как компания совмещает инновации с серьезными обязательствами по защите общественной безопасности.

Решение руководства компании отклонить рекомендации группы безопасности указывает на организационные сбои на многих уровнях. Эксперты по безопасности выполнили свою работу: выявили угрозы и рекомендовали соответствующие действия. Однако структурные стимулы или приоритеты внутри OpenAI привели к тому, что эти рекомендации были проигнорированы. Такое разделение между знаниями в области технической безопасности и принятием решений руководителями поднимает вопросы о том, как компании, занимающиеся искусственным интеллектом, расставляют приоритеты и внедряют свои системы безопасности.

В перспективе эти судебные иски, скорее всего, побудят другие компании, занимающиеся искусственным интеллектом, пересмотреть свои собственные процедуры обнаружения угроз и отчетности. Этот случай может повлиять на то, как вся отрасль подходит к обязанности сообщать властям об опасных пользователях. По мере того как системы искусственного интеллекта становятся все более интегрированными в общество и все больше людей взаимодействуют с ними личным и потенциально откровенным образом, вопрос о том, как компании обрабатывают информацию об угрозах, становится все более актуальным и важным для общественной безопасности.

Последствия выходят за рамки самого OpenAI. Другие крупные компании в области технологий и искусственного интеллекта наблюдают за развитием этой правовой ситуации, поскольку она, вероятно, будет определять отраслевые стандарты, правовые ожидания и нормативные требования в будущем. Баланс между конфиденциальностью пользователей и общественной безопасностью, долгое время обсуждавшийся в контексте традиционных социальных сетей, теперь сталкивается с новым вопросом в сфере передового искусственного интеллекта, где ставки и возможности кажутся еще выше.