ChatGPT 添加安全功能以提醒紧急联系人

OpenAI 正在为 ChatGPT 引入一项突破性的安全功能，旨在通过在危机时期将易受攻击的用户与其支持网络连接起来来保护他们。新的可选功能称为“可信联系人”，成年用户可以指定紧急联系人，如果人工智能系统在平台对话中检测到有关自残、自杀或其他严重心理健康问题的讨论，他们将收到通知。

这种人工智能安全的创新方法代表着科技公司在解决数字时代心理健康危机方面向前迈出了重要一步。通过将人工智能监控的能力与可信个人的人工干预相结合，OpenAI 旨在为可能遭受心理困扰的用户创建一个安全网。该功能承认，虽然人工智能工具可以提供信息和支持，但它们无法取代在心理健康紧急情况下人际关系和专业帮助的不可替代的价值。

根据 OpenAI 的官方声明，可信联系人功能从根本上建立在经过专家验证的研究之上，该研究表明，在危机时刻，一个人认识和信任的人的干预可以产生有意义的、可衡量的结果改善。该公司强调，这种安全机制旨在补充现有的危机资源，而不是取代它们，与已集成到 ChatGPT 平台中的本地化帮助热线和其他专业心理健康服务一起工作。

此功能的开发反映了更广泛的行业对话，即当技术公司的平台成为用户讨论敏感个人事务的空间时，其应承担的责任。随着人工智能聊天机器人变得越来越复杂，越来越多的人使用它们来获得情感支持和建议，像 OpenAI 这样的公司必须努力解决获取深度个人用户信息和对话所带来的道德影响。

当 OpenAI 的内容检测算法识别出对话中表明用户可能正在经历心理健康危机的模式或特定语言时，将触发通知系统。这代表了尊重用户隐私和可能挽救生命的干预之间的微妙平衡。 OpenAI 精心工作，确保系统足够敏感，能够发现真正的问题，同时避免误报，以免不必要地向指定联系人发出警报或削弱用户对平台的信任。

有兴趣使用可信联系人功能的用户需要主动选择加入并从其个人网络中选择紧急联系人。这种自愿方法确保只有对这种级别的监控和干预感到满意的用户才会激活该功能。该流程设计简单且易于访问，消除了可能阻止需要此支持的用户在关键时刻进行设置的潜在障碍。

指定联系人本身将收到有关通知含义以及应如何回应的明确指导。 OpenAI 的通知不会发送警报或引起恐慌的消息，而是提供有关检测到的相关内容的背景信息，同时鼓励联系人以同情心和关怀的态度与用户联系。这种深思熟虑的方法认识到，在确定干预是否真正有帮助方面，联系人的响应与检测机制本身同样重要。

心理健康专业人士早就认识到，自杀和自残之前往往会出现警告信号和痛苦的表达。通过使人工智能系统能够识别这些相关讨论并向可信个人发出警报，技术可以在人类支持可能防止悲剧发生的关键时刻进行干预。这种方法与自杀预防框架相一致，该框架强调在心理健康危机期间减少孤立和增加获得关怀关系的重要性。

OpenAI 决定实施此功能也反映出科技行业越来越认识到，AI 安全不仅仅限于防止有害输出和安全漏洞。它包括负责任地使用人工智能来保护人类福祉，特别是弱势群体的福祉。该公司表示，这一功能是其更广泛承诺的一部分，旨在确保 ChatGPT 成为用户生活中的积极力量，而不是一个让相关行为被忽视的平台。

“可信联系人”功能的推出正值全球心理健康意识不断得到重视之际，人们越来越认识到社会孤立和缺乏支持系统在心理健康危机中所扮演的角色。通过将这种安全机制集成到世界上使用最广泛的人工智能平台之一，OpenAI 承认科技公司在支持公共心理健康倡议和创建用户可以立即访问支持网络的数字环境方面可以发挥作用。

该功能还解决了人工智能聊天机器人带来的独特挑战：与传统的社交媒体平台或消息服务不同，ChatGPT 用户在与人工智能系统讨论敏感话题时可能会感到不那么拘束，假设他们的对话是私密的且没有判断力。虽然这种开放的交流可以起到治疗作用，但这也意味着 ChatGPT 可能成为弱势用户表达尚未与其他人分享的想法的地方。可信联系人功能可确保此信息不会在私人 AI 对话中保持孤立状态。

重要的是，OpenAI 构建了具有隐私保护措施的可信联系人功能，以防止滥用。公司不会与紧急联系人分享相关对话的具体内容，而是提醒他们发生了相关讨论，以便他们可以直接联系。这种方法尊重用户的隐私，同时仍然能够进行干预，在保护和自主之间取得平衡，许多专家认为这对于道德危机干预系统至关重要。

在 ChatGPT 中实施这种危机检测技术还引发了有关内容审核和人工智能系统在识别易受攻击用户方面的作用的重要问题。 OpenAI 投入了大量资源来开发支持此功能的算法和协议，并与心理健康专业人员合作以确保准确性和适当的响应协议。技术专家和医疗保健专家之间的这种合作代表了其他人工智能公司在应对类似挑战时可能效仿的模式。

展望未来，可信联系人功能可以作为其他人工智能公司如何为经历心理健康危机的用户实施安全机制的模板。随着人工智能越来越融入日常生活，越来越多的人转向人工智能系统寻求情感支持和指导，建立这些保护机制的重要性怎么强调也不为过。 OpenAI 的主动方法可能有助于建立负责任的人工智能开发的行业标准，将人类安全与创新放在一起。

关心自己心理健康或他人福祉的用户可以通过 OpenAI 平台获取综合资源，该平台将继续提供有关当地危机求助热线、心理健康服务和其他支持资源的信息。可信联系人功能是对这一资源生态系统的重要补充，在危机时期利用技术来加强而不是取代人际关系和专业支持系统。