家庭因大规模枪击事件 ChatGPT 警告而起诉 OpenAI

在不列颠哥伦比亚省一所中学发生的毁灭性大规模枪击事件中丧生的七名受害者的家人对 OpenAI 及其首席执行官提起了新的诉讼，要求因该公司未能报告 ChatGPT 上检测到的危险行为而造成的疏忽赔偿。该诉讼于周三在旧金山联邦法院正式提起，对这家人工智能公司的内容审核做法提出了重大法律挑战，并提出了企业在识别和报告对公共安全的潜在威胁方面的责任的关键问题。

法庭文件描绘了 OpenAI 内部对枪手危险意图的认识的令人不安的画面。根据诉讼，这家科技公司的员工在致命的 Tumbler Ridge 袭击发生前大约八个月就标记了枪手的账户。这些员工认为，该账户构成了法律文件所描述的“针对真人的枪支暴力的可信且具体的威胁”。尽管有这一身份证明，但据称该公司没有采取任何行动通知执法当局或其他可能避免悲剧发生的相关机构。

嫌疑人已被确认为 18 岁的 Jesse Van Rootselaar，他在不列颠哥伦比亚省中学实施了袭击。该事件导致七人死亡，并成为有关科技公司有义务报告其平台上检测到的威胁行为的讨论的热点。这些家庭的法律代表辩称，一旦公司人员意识到通信的危险性质，OpenAI 就有道德和潜在的法律义务向当局发出警报。

诉讼指控表明，OpenAI 的内容审核政策与其实际实施之间存在巨大差距。尽管许多技术平台已经制定了识别和报告暴力威胁的协议，但该案件引发了人们的疑问：这些程序是否得到一致遵守，以及是否包括向执法部门强制报告的要求。家属的法律团队辩称，OpenAI 拥有防止悲剧发生的知识和手段，但未能根据他们掌握的信息采取行动。

这场诉讼发生之际，人们对人工智能公司如何管理用户安全和平台上的内容审核进行了越来越严格的审查。 OpenAI 运营着世界上使用最广泛的人工智能聊天机器人之一，它面临着越来越大的压力，需要证明它认真承担监控有害内容和危险用户行为的责任。此案突显了用户隐私与公共安全之间的紧张关系，随着其平台的受欢迎程度和影响力不断增强，科技公司必须应对这一紧张关系。

在袭击发生前八个月，员工发出警告的时机在家属代表提出的法律论据中尤为重要。从理论上讲，这段延长的时间将为 OpenAI 提供充足的机会来进行进一步调查、收集更多证据并与执法机构协调以防止潜在的暴力行为。该诉讼称，这一时间窗口使得该公司的不作为尤其令人震惊，并表明公司基本尽职调查的失败。