OpenAI 因涉嫌 ChatGPT 射手链接而面临诉讼

OpenAI 正面临严格的法律审查，因为有指控称这家人工智能公司本可以阻止加拿大最具破坏性的大规模枪击事件之一。周三，加州法院提起了七起单独的诉讼，每起诉讼都提出了令人不安的叙述，据称该公司如何在暴力警告标志明显存在的情况下将用户隐私置于公共安全之上。

根据诉讼和举报人的说法，OpenAI 的内部安全团队在悲剧枪击事件发生前八个多月就确定了一个特定的 ChatGPT 帐户。训练有素的安全专家已将这个帐户标记为对现实世界的枪支暴力构成可信且迫在眉睫的威胁。根据既定协议，当发现此类威胁时，OpenAI 预计会立即通知执法机构——当执法机构已经掌握了个人的现有信息时，这一步骤变得更加重要。

在这起特殊案件中，当地警方此前已对该人建立了档案，并采取了积极措施，从其住所移走枪支。此前执法部门的介入本应加强通知的力度，但内部沟通和随后的决定表明 OpenAI 选择了不同的路径。公司领导层没有提醒当局注意潜在的危险，而是故意选择优先考虑其他考虑因素。

据接受《华尔街日报》采访的消息人士透露，OpenAI 拒绝其安全团队建议的理由主要是担心用户隐私以及担心警方接触可能造成的压力。公司领导权衡了这些考虑因素（被标记为潜在暴力威胁的个人的舒适度和隐私）与现实世界中发生的暴力的真实风险。此计算与标准安全协议存在重大背离，标准安全协议优先考虑高风险场景中的威胁预防。

根据法律文件，该公司对被标记帐户的回应表明了一系列令人不安的行动。 OpenAI 没有向执法部门报告用户，而是只是停用了与威胁行为相关的 ChatGPT 帐户。然而，据称该公司随后采取了安全倡导者认为特别令人担忧的额外措施：据报道，OpenAI 联系了用户，并提供了如何通过使用备用电子邮件地址创建新帐户来规避帐户停用的指导。这一行动有效地使公司自己的专家认为威胁的人能够继续访问该平台。

引发这些诉讼的校园枪击事件是加拿大历史上最致命的大规模悲剧之一，这使得针对 OpenAI 的指控尤为重要。这场悲剧引发了关于人工智能技术公司在掌握潜在威胁信息时的责任的紧迫问题。与主要处理信息共享的传统技术平台不同，经过大量数据集训练的人工智能系统具有独特的能力，可以通过用户交互和行为线索识别模式和潜在危险。

此案突显了先进技术时代隐私权与公共安全之间日益紧张的关系。大型科技公司的内容审核政策长期以来一直在努力解决这种平衡，但强大的人工智能语言模型的引入给这些决策增加了新的复杂性。 ChatGPT 用户与系统的交互方式可能会揭示意图、计划和心理状态，从而使系统及其操作员比传统平台更能了解个人行为模式。

这些诉讼代表了人工智能公司如何对安全协议负责的潜在分水岭。如果成功，他们可以就公司何时以及如何向当局上报威胁信息建立重要的法律先例。这些案件还引发了更广泛的问题，涉及 OpenAI 作为人工智能行业领先企业的责任，以及该公司如何平衡创新与保护公共安全的严肃义务。

公司领导层拒绝安全团队建议的决定表明组织在多个层面上的失败。安全专家已经完成了他们的工作——识别威胁并建议采取适当的行动。然而 OpenAI 内部的结构性激励措施或优先事项导致这些建议被忽视。技术安全专业知识和执行决策之间的这种分裂引发了关于人工智能公司如何优先考虑和实施其安全框架的问题。

展望未来，这些诉讼可能会促使其他人工智能公司评估自己的威胁检测和报告程序。此案可能会影响整个行业如何履行向当局报告危险用户的责任。随着人工智能系统越来越融入社会，越来越多的人以个人和潜在的暴露方式与它们互动，公司如何处理威胁信息的问题对于公共安全变得越来越紧迫和重要。

其影响超出了 OpenAI 本身。其他主要技术和人工智能公司正在关注这种法律情况的发展，因为它可能会为未来的行业标准、法律预期和监管要求提供信息。用户隐私和公共安全之间的平衡在传统社交媒体环境中长期存在争议，现在在先进人工智能领域面临着新的审查，其中的风险和能力似乎更高。