尽管书中有虚假引言，作者仍为人工智能的使用辩护

记者兼作家史蒂文·罗森鲍姆发现自己陷入了一种讽刺的困境，这凸显了现代出版业的核心紧张局势之一。他最近出版的书《真理的未来：人工智能如何重塑现实》探讨了人工智能在数字时代扭曲事实准确性和操纵信息的令人不安的方式。然而，《纽约时报》的一项全面调查显示，罗森鲍姆自己的作品中包含有问题的引文，他现在承认这些引文要么被不当归因，要么完全是由他在研究阶段使用的人工智能工具生成的。

这一发现为当代作者在人工智能技术与新闻诚信交叉时所固有的矛盾提供了一个引人入胜的案例研究。罗森鲍姆的书由西蒙与舒斯特出版，旨在研究在快速发展、以利润为导向的人工智能系统的无情压力下，“真理是如何被扭曲、模糊和综合的”。观察人士并没有忽视这一讽刺：一位警告人工智能扭曲现实能力的作者自己也成为了他所记录的现象的受害者。这种情况引发了关于作家和出版商在尝试新兴技术时维持准确性标准的责任的基本问题。

相关具体引文引起了据称制作这些引文的个人的特别关注。科技记者卡拉·斯威舍 (Kara Swisher) 是科技新闻界的知名人士，她明确告诉《纽约时报》，她“从未说过”罗森鲍姆文本中引用的那句话是她说的。同样，东北大学教授丽莎·费尔德曼·巴雷特（Lisa Feldman Barrett），一位受人尊敬的神经科学家和研究人员，指出某些引文“没有出现在[我的]书中，而且它们也是错误的。”这些矛盾表明，罗森鲍姆的人工智能研究工具可能生成了听起来似乎合理但完全捏造的陈述，未经证实就将其归因于真人。

这种情况特别值得注意的是罗森鲍姆对这一发现的反应。作者并没有放弃在研究和写作过程中使用人工智能，而是表示他打算在未来的项目中继续使用人工智能工具。他目前正在与编辑合作进行他所说的全面的“引文审核”，旨在纠正该书后续印刷中的错误。这种方法表明，罗森鲍姆认为这个问题不是使用人工智能进行研究的根本缺陷，而是一个需要更好的验证程序和质量控制机制的技术问题。

尽管经历了具体的负面后果，但仍决定保持对人工智能工具的信心，反映了更广泛的哲学立场。罗森鲍姆似乎相信，人工智能对于现代作家和研究人员来说代表着一种宝贵的——甚至可能是必要的——资产，解决方案不在于全面拒绝这些技术，而在于实施更严格的事实检查协议。这种立场使他有点具有挑衅性，因为他在撰写有关人工智能的警示故事的同时，还押注于该技术在适当管理和监督下的实用性。

更广泛的出版业将密切关注这一情况，因为它提出了有关行业标准的紧迫问题。出版商、编辑和作者必须努力解决如何负责任地将人工智能集成到他们的工作流程中，同时保持对事实准确性的基本承诺，这一承诺长期以来定义了可信的新闻和严肃的非小说类作品。一本明确提及合成信息危险的合成引文的存在不仅令人尴尬，而且还威胁到了作者及其有关日益复杂的人工智能系统所带来的挑战的重要信息的可信度。

罗森鲍姆对这个问题的承认至少表明他愿意透明地接受批评。他并没有试图淡化错误的严重性或完全归咎于外部行为者。即将进行的引文审核代表了对纠正的具体承诺，这可能有助于在读者和评论家之间恢复一定程度的信任。然而，根本问题依然存在：作者和出版商能否充分监督人工智能系统，以防止未来发生类似错误？

合成引用事件还凸显了语言模型和其他人工智能系统给研究和写作带来的特殊挑战。这些工具擅长生成听起来合理且阅读流畅的文本，但它们的操作并没有对事实或准确性有任何真正的理解。当人工智能系统遇到定位或生成特定人的引言的请求时，它可能会生成与其从训练数据中学到的文体模式相匹配的内容，而没有任何机制来验证该陈述是否确实是该人提出的。

对于像罗森鲍姆这样的研究人员来说，这造成了一个不稳定的局面。人工智能系统提供的效率提升（快速处理大量信息并生成相关引文的能力）必须与独立验证这些引文所需的人类工作仔细平衡。信任人工智能输出的诱惑，尤其是当它们看起来来源良好且格式正确时，如果验证步骤不充分，可能会导致错误溜到发布中。

围绕这一事件的讨论可能会影响其他作者和出版社如何制定自己的人工智能实施策略。有些人可能会变得更加谨慎，在纳入人工智能生成的内容之前实施更严格的验证协议。其他人可能会追随罗森鲍姆的道路，将这些错误视为不断发展的技术生态系统中成长的烦恼。显而易见的是，这种情况不能被忽视或视为孤立事件——它代表了先进人工智能时代对已发布信息完整性的真实而现实的挑战。

随着罗森鲍姆继续进行引文审核并继续探索人工智能如何塑造我们与真理的关系，他的个人经历无疑将影响他的观点。他和其他作者是否能够成功应对利用人工智能功能的双重挑战，同时保持严格的准确性标准，将是衡量该技术是否可以负责任地融入严肃的智力工作的重要衡量标准。正如他自己的书中所言，风险很高：在人工智能日益介导的世界中，我们区分真假的集体能力取决于谨慎而透明地做出此类决策。