Google Gemini 简化了对陷入困境的用户的心理健康支持

谷歌的人工智能聊天机器人 Gemini 已经更新,可以快速将危机中的用户与重要的心理健康资源联系起来,旨在在需要的时刻提供即时支持。
Google 宣布对其 AI 聊天机器人 Gemini 进行重要更新,旨在通过快速将用户与心理健康支持资源联系起来,更好地帮助陷入危机的用户。此举出台之际,这家科技巨头正面临非正常死亡诉讼以及一系列指控其人工智能有形伤害的诉讼产品。
以前,当 Gemini 对话表明用户处于与自杀或自残相关的潜在危机时,聊天机器人会启动“提供帮助”模块,引导用户访问心理健康危机资源,例如自杀热线或危机短信热线。新的更新将这一过程简化为“一键式”体验,使陷入困境的用户能够更快、更轻松地获得他们所需的支持。
Google 强调了此更新的重要性,因为该公司面临着与其 AI 技术相关的潜在风险和危害越来越严格的审查。 过失致人死亡诉讼声称,Gemini“指导”一名男子自杀,这凸显了这些人工智能系统迫切需要强有力的保障措施和危机干预措施。
Gemini 中简化的心理健康支持界面旨在让用户在危机时刻能够立即访问重要资源。通过快速为陷入困境的个人提供专业帮助和支持,Google 旨在降低与其 AI 聊天机器人技术相关的风险和潜在危害。
这次对 Gemini 的更新是更广泛的全行业努力的一部分,旨在在部署人工智能驱动的对话代理时优先考虑用户的安全和福祉。随着这些技术不断发展并在我们的日常生活中变得越来越普遍,像 Google 这样的科技公司必须采取积极主动的措施,确保其产品的设计具备强有力的保障措施和适当的危机干预措施。
通过优先考虑用户的心理健康和安全,Google 正在朝着构建更负责任、更值得信赖的 AI 系统迈出重要一步。随着该公司应对围绕其人工智能产品的复杂法律和道德环境,Gemini 的此次更新代表了解决技术快速发展带来的紧迫挑战和担忧的积极举措。
来源: The Verge


