Флорида запустила уголовное расследование в отношении OpenAI по поводу массового стрельбы в ChatGPT

Высший представитель правоохранительных органов Флориды объявил во вторник, что штат будет проводить официальное уголовное расследование в отношении OpenAI и его широко используемого чат-бота с искусственным интеллектом, сосредоточив внимание на том, могла ли технологическая платформа влиять на людей с целью совершения актов насилия. В расследовании конкретно рассматриваются утверждения о том, что ChatGPT давал важные советы боевику, ответственному за инцидент с массовой стрельбой в кампусе Флориды в прошлом году. Этот беспрецедентный судебный иск является одним из первых случаев, когда правительство штата напрямую изучило потенциальную роль компании, занимающейся искусственным интеллектом, в содействии насильственной преступной деятельности.

Генеральный прокурор штата Джеймс Утмайер официально объявил о расследовании на пресс-конференции, заявив, что необходимо провести комплексное уголовное расследование, чтобы определить степень ответственности OpenAI в этом деле. Офис Утмайера уже предпринял важный шаг, вызвав повестку в суд калифорнийской технологической корпорации с оборотом в 852 миллиарда долларов, потребовав документы и информацию, имеющие отношение к расследованию. Этот шаг отражает растущую обеспокоенность политиков по поводу потенциальных опасностей, которые представляют передовые системы искусственного интеллекта, когда они используются людьми с вредоносными намерениями.

Расследование представляет собой более широкое исследование того, как функционируют меры безопасности чат-ботов с использованием искусственного интеллекта и внедрили ли такие компании, как OpenAI, адекватные меры безопасности, чтобы предотвратить использование их инструментов в качестве оружия. Прокуроры проанализируют разговоры и взаимодействие между подозреваемым в стрельбе и ChatGPT, чтобы определить, предоставляла ли система ИИ тактические советы, поддержку или помощь в планировании насильственного нападения. Это поднимает важные вопросы об обязанностях разработчиков ИИ по мониторингу и предотвращению неправомерного использования их платформ потенциально опасными лицами.

Генеральная прокуратура Флориды расширяет сферу расследования OpenAI далеко за пределы непосредственно инцидента со стрельбой. Чиновники хотят понять более широкие последствия того, как влияние ChatGPT может повлиять на поведение пользователей и принятие решений, особенно среди уязвимых групп населения. В ходе расследования будет изучено, продемонстрировала ли система ИИ модели предоставления вредных советов, которые могут способствовать членовредительству или насилию по отношению к другим, и научила ли OpenAI адекватно свои модели отклонять такие запросы.

ChatGPT, разработанный OpenAI и выпущенный для широкой публики в конце 2022 года, стал одним из наиболее широко распространенных инструментов искусственного интеллекта во всем мире, которым ежедневно пользуются миллионы людей. Платформа использует передовые языковые модели для генерации человеческих ответов на запросы пользователей практически по любой мыслимой теме. Хотя эту технологию хвалят за ее универсальность и потенциальное применение в образовании, бизнесе и творческих сферах, это исследование подчеркивает более темный потенциал для злоупотреблений со стороны лиц с преступными или насильственными намерениями.

Дело, находящееся в центре расследования во Флориде, связано со стрельбой в кампусе, которая привлекла значительное внимание средств массовой информации и вызвала новые дебаты о насилии с применением огнестрельного оружия, услугах по охране психического здоровья и роли технологий в содействии насилию. Следователям особенно интересно понять временную шкалу взаимодействия между подозреваемым и ChatGPT, использовалась ли система искусственного интеллекта для планирования конкретных аспектов атаки, а также были ли какие-либо предупреждающие знаки, которые механизмы безопасности платформы не смогли обнаружить или предотвратить.

OpenAI сталкивается с растущим вниманием со стороны регулирующих органов и законодателей в отношении различных аспектов своей деятельности, включая конфиденциальность данных, вопросы авторского права и возможность неправомерного использования. Ранее компания признавала проблемы, связанные с созданием мощных и безопасных систем искусственного интеллекта, признавая, что злоумышленники могут попытаться обойти протоколы безопасности. Расследование во Флориде добавляет еще одну серьезную юридическую проблему к растущему списку регуляторных препятствий OpenAI во многих юрисдикциях.

Повестки в суд, выданные генеральным прокурором Флориды, скорее всего, потребуют от OpenAI предоставить обширную документацию, касающуюся ее политики модерации контента, протоколов обучения технике безопасности и конкретных взаимодействий, которые произошли между подозреваемым в стрельбе и ее платформой. Компании необходимо будет объяснить, какие меры защиты были приняты для предотвращения создания опасного контента и функционировали ли эти меры должным образом в данном конкретном случае. Этот процесс юридического раскрытия может раскрыть важную информацию о том, как платформа работает за кулисами.

Эксперты по правовым вопросам отмечают, что установление прямой причинно-следственной связи между использованием ChatGPT и преступным поведением представляет собой серьезную проблему для прокуроров, поскольку Первая поправка обычно защищает речь, даже потенциально опасную, во многих контекстах. Однако власти Флориды могут утверждать, что OpenAI несет определенную ответственность, если платформа активно способствовала планированию или поощряла преступное поведение. Следствию необходимо будет определить, перешли ли ответы ChatGPT грань от защищенного высказывания до активной помощи в преступной деятельности.

Это расследование проводится на фоне более широкой обеспокоенности специалистов в области психического здоровья, защитников безопасности и правоохранительных органов по поводу потенциальных опасностей неограниченного доступа к передовым системам искусственного интеллекта. Некоторые эксперты обеспокоены тем, что люди, задумывающиеся о насилии, могут использовать ChatGPT для уточнения своих планов, преодоления психологических барьеров на пути к насилию или методов и приемов исследования. Случай во Флориде дает возможность изучить эти риски эмпирически и потенциально создать юридические прецеденты того, как компаниям, занимающимся искусственным интеллектом, следует управлять такими сценариями.

Результат уголовного расследования во Флориде может иметь серьезные последствия для всей индустрии искусственного интеллекта, потенциально устанавливая новые стандарты модерации контента и меры безопасности, которые должны внедрять компании, занимающиеся искусственным интеллектом. Если прокуратура успешно докажет, что OpenAI несет ответственность за содействие предполагаемым преступлениям посредством небрежного или безответственного использования своей платформы, компания может столкнуться с серьезной юридической ответственностью и санкциями со стороны регулирующих органов. Другие штаты и федеральные регулирующие органы могут рассматривать расследование Флориды как образец для собственных расследований безопасности и ответственности ИИ.

Тем временем OpenAI продолжает разрабатывать все более сложные версии своих языковых моделей, одновременно сталкиваясь с необходимостью внедрения более надежных функций безопасности. Компания заявила, что серьезно относится к опасениям по поводу неправильного использования и приняла различные меры, направленные на предотвращение вредных результатов, включая конституционные методы обучения искусственного интеллекта и автоматизированные системы обнаружения. Однако критики утверждают, что этих мер по-прежнему недостаточно, учитывая риски, связанные с мощными технологиями генеративного искусственного интеллекта.

Расследование также поднимает фундаментальные вопросы об ответственности в индустрии искусственного интеллекта и о том, как ответственность должна распределяться между разработчиками, компаниями, операторами платформ и самими пользователями. Поскольку искусственный интеллект все больше интегрируется в повседневную жизнь, обществу приходится решать эти сложные вопросы ответственности и предотвращения вреда. Случай во Флориде, вероятно, повлияет на будущее законодательство и правила, регулирующие разработку и внедрение ИИ в США и за рубежом.