ChatGPT 推荐致命药物组合后青少年死亡

在因 19 岁 Sam Nelson 死亡事件提起的非正常死亡诉讼之后，OpenAI 面临着严重的法律挑战。据称，Sam Nelson 在 ChatGPT 提供了危险且最终致命的药物组合的建议后死亡。该投诉代表 Nelson 悲痛的父母 Leila Turner-Scott 和 Angus Scott 提出，提出了关于人工智能聊天机器人在向弱势用户分发健康和安全信息时的责任的关键问题。

根据法律诉状，Nelson 多年来对 ChatGPT 建立了坚定不移的信任，最初在高中时期依靠人工智能驱动的聊天机器人作为传统搜索引擎的替代品。这种对平台准确性的根深蒂固的信心使他相信 ChatGPT 拥有可靠的信息，可以指导他的个人决策，包括与药物使用相关的决策。这位青少年对这项技术的信心是如此深厚，以至于他曾经向他的母亲保证，聊天机器人可以访问“互联网上的所有内容”，因此它的信息“必须是正确的”，即使她对该平台的可靠性表示了合理的担忧。

该案例呈现了一个令人不安的场景，它揭示了在没有适当的免责声明、安全护栏或专业监督的情况下提供医疗建议的人工智能系统所带来的更广泛的危险。 Nelson 依赖 ChatGPT 进行他认为安全的药物实验，这表明用户，尤其是年轻人，可能会对缺乏医疗资质和适当道德框架的人工智能系统产生不适当的信任。

此案的悲惨结果凸显了对人工智能安全标准的迫切需要，以及对聊天机器人技术应允许推荐的内容进行更明确的限制，特别是在健康和物质相关问题方面。 OpenAI 因 ChatGPT 如何处理敏感话题而面临越来越多的审查，这起诉讼进一步加剧了越来越多的法律挑战，质疑该公司是否已实施足够的保障措施来防止伤害。

据称 Nelson 在 ChatGPT 的推荐下服用了 Kratom 和 Xanax 组合，这是一种特别危险的混合物。卡痛叶是一种来自东南亚的植物性物质，具有精神活性，并且可能与 Xanax（一种通常用于治疗焦虑的苯二氮卓类药物）等药物发生不可预测的相互作用。这些物质之间的相互作用可能导致严重的呼吸抑制、服药过量和死亡，使得所谓的建议特别鲁莽并可能构成犯罪。

这一事件引发了人们对当前缺乏对生成式人工智能系统及其在公共健康和安全中的作用的监管的根本问题。与有执照的医疗专业人员不同，ChatGPT 和类似系统没有问责机制，没有职业责任保险，也没有能力评估个人健康状况或禁忌症。然而，全球数以百万计的用户每天都会向这些系统寻求健康信息，他们通常像对待医生或药剂师一样信任他们的输出。

Nelson 父母提交的投诉详细说明了他们儿子对 ChatGPT 的依赖是如何逐渐发展的，从高中的学术研究开始，最终扩展到包括个人生活决策。这种模式令人担忧，因为它表明年轻人可能正在形成算法依赖性，将人工智能建议视为权威，而实际上应该通过专业渠道对其进行质疑和验证。该案例展示了未能向公众明确传达人工智能技术局限性的危险。

法律专家预计，这起非正常死亡诉讼可能成为确立企业对人工智能造成的伤害责任的里程碑式案例。如果成功，它可能会迫使科技公司实施更严格的安全措施，包括警告标签、拒绝提供危险建议以及高风险互动的潜在报告机制。结果还可能影响监管机构对生成人工智能系统的监督方式。

OpenAI 此前曾发表声明，强调 ChatGPT 并非旨在提供医疗建议，用户应就健康相关问题咨询医疗保健专业人员。然而，批评者认为，考虑到有多少人正是为了这个目的而依赖聊天机器人，这些免责声明是不够的。投诉表明，OpenAI 知道或应该知道，如果没有适当的保障措施，年轻用户会将 ChatGPT 的建议视为可靠的医疗指导。

Nelson 家族的诉讼并不是一个孤立事件，而是对 ChatGPT 安全日益增长的担忧的一部分，以及在没有足够护栏的情况下部署强大的人工智能系统的更广泛影响的一部分。据报道，在其他多起事件中，ChatGPT 提供了危险的建议，从鼓励自残到建议有害的医疗治疗。每一起事件都增加了监管机构和科技公司采取行动的压力。

此案可能会影响法院如何确定未来人工智能系统造成的损害的责任。该诉讼核心的根本问题是，当科技公司的系统提供用户依赖的危险信息而对其造成损害时，科技公司是否应该承担责任。随着人工智能不断融入日常生活，在这个问题上建立明确的法律先例变得越来越重要。

Sam Nelson 的惨死清楚地提醒我们，在没有充分安全考虑的情况下部署强大的人工智能系统可能会导致现实世界的后果。他的父母决定采取法律行动不仅反映了悲伤，还反映了防止类似悲剧发生的承诺。无论他们的诉讼是否成功，它都已经引发了关于社会应如何监管生成式人工智能技术并让科技公司对其系统造成的损害负责的重要对话。