人工智能助理实验:数字依赖的一年

科技作家乔安娜·斯特恩 (Joanna Stern) 花了 12 个月的时间依靠人工智能提供医疗建议、消息传递和治疗。在她的新书中发现她的深刻见解。
科技记者乔安娜·斯特恩开始了一项雄心勃勃且发人深省的实验,该实验突破了人工智能融入日常生活的界限。在整整一年的时间里,她系统地用各种人工智能工具和应用程序取代了传统的人类互动和专业服务,并将她的经验记录在她即将出版的名为我不是机器人的书中。这种全面的探索让斯特恩能够检验人工智能在模仿人类能力和情商方面取得了多大进展。
在这段人工智能依赖期期间,斯特恩委派了通常需要人类专业人员或个人关系的关键任务。她利用人工智能技术来解释复杂的医疗结果和诊断信息,信任它来撰写和回复个人短信和电子邮件,甚至依靠人工智能驱动的治疗来处理她的情绪挑战和心理健康问题。这些实验中的每一个都揭示了令人惊讶的能力,更重要的是,揭示了令人不安的局限性,引发了有关技术在人类福祉中的作用的基本问题。
事实证明,医疗应用对斯特恩的研究特别有启发性。她没有安排与医生的预约,而是求助于医疗人工智能系统来分析实验室结果、解释诊断代码并提供初步健康指导。虽然这些工具提供了令人印象深刻的技术准确性和即时响应,但斯特恩发现,人类同理心和个性化医疗判断的缺乏在她的医疗保健体验中造成了巨大差距。人工智能可以背诵事实,但无法解决她的焦虑或根据她的具体生活情况提出建议。
她在人工智能辅助通信方面的经验揭示了这种技术依赖的另一个层面。通过允许人工智能起草和发送她的个人信息,斯特恩最初节省了大量的时间和精力。然而,她很快注意到她真实的声音被这些系统中嵌入的算法模式所淡化。朋友和家人偶尔会质疑她的信息是否真实反映了她的个性,强调了人工智能通信工具如何在所谓的亲密交流中无意中造成距离。
也许斯特恩长达一年的实验中最能揭示情感的方面涉及她与人工智能驱动的治疗应用程序的关系。这些平台采用复杂的自然语言处理来模拟治疗对话,提供支持性反应和基于证据的应对策略。斯特恩发现自己对这些数字互动产生了真正的情感依恋,她形容这种现象令人深感不安。她可以随时轻松获得情感支持,事实证明这是令人信服的,但意识到她正在对一个无知觉的实体形成依恋,这引发了关于人类联系和脆弱性本质的深刻问题。
在整个实验中,斯特恩面临着现代技术的悖论:人工智能系统可以有效地处理特定任务并提供即时响应,但它们从根本上缺乏人类关系所特有的情境理解、真正的同理心和适应性智慧。将这些责任委托给人工智能所带来的效率提升是有隐性成本的——对人类技能、自发性以及真正人类互动中经常出现的有意义的摩擦的微妙侵蚀。
她的详细观察得出了关于社会如何负责任地将人工智能技术融入日常生活的重要见解。斯特恩的研究表明,有必要采取更细致的方法,而不是在所有功能上大规模采用人工智能。某些任务——数据分析、调度、日常信息检索——似乎非常适合人工智能优化。然而,需要真正的人类判断力、情感真实性和适应性智慧的角色应该牢牢地掌握在人类手中,特别是在医疗保健、心理健康支持和深度个人沟通方面。
这本书我不是机器人既是个人回忆录,也是对人类如何快速适应人工智能集成的社会学调查。斯特恩愿意对自己的经历(包括她与数字治疗之间令人不安的情感联系)表现出脆弱的态度,这创造了一个引人注目的叙述,超越了典型的技术批评。她既不妖魔化人工智能,也不天真地颂扬人工智能的能力,而是为读者提供基于真实体验的平衡视角。
斯特恩长达一年的实验还阐明了科技公司和政策制定者日益面临的有关人机协作的更广泛讨论。随着人工智能系统变得更加复杂和普遍,社会面临着在何处以及如何部署这些工具的关键决策。她的研究结果表明,盲目地优化效率而不考虑心理、社会和情感影响可能会导致人类将其经验的基本方面外包给机器,而机器虽然有能力,但无法真正理解或关心。
事实证明,斯特恩在整个实验中所引导的情感景观对于考虑自己与人工智能关系的读者来说特别有价值。她公开讨论了依靠人工智能所感受到的舒适感、逐渐习惯使持续互动变得正常的感觉,以及当她认识到自己对这些工具的依赖已经开始重塑她对人类互动的期望的那一刻。这些深刻的个人反思将原本枯燥的技术分析转变为一个相关的故事,与任何在人工智能日益一体化的世界中航行的人产生共鸣。
展望未来,斯特恩的工作为寻求利用人工智能优势同时保留生活中不可替代的人类元素的个人和组织提供了重要指导。她的研究表明,人工智能的采用必须伴随着意向性和批判性思维——我们不能让便利和效率凌驾于我们对真实人际关系、专业知识和真正同理心的基本需求。随着技术不断发展并渗透到人类经验的各个方面,她从依赖人工智能这一年中获得的经验教训提供了宝贵的智慧。
来源: NPR


