停止以人类过程命名人工智能功能

Anthropic 在其开发者大会上发布的最新公告再次引发了人工智能研究人员、伦理学家和技术评论员日益增长的挫败感：该行业一直以来习惯以明显的人类认知过程来命名人工智能功能。该公司推出了一项名为“梦想”的新功能，旨在帮助人工智能代理组织和分类存储的“记忆”。虽然这些术语对消费者来说可能听起来很直观，但它从根本上歪曲了这些系统的实际运作方式。

这种命名惯例在人工智能行业中变得越来越普遍，各大公司经常采用大量借用人类神经学和心理学的词汇。当公司谈论人工智能“思考”、“学习”、“记忆”和现在的“梦想”时，他们使用的语言与意识、理解和意向性有着深刻的联系。然而，这些术语掩盖了这些技术背后的数学和计算现实。神经网络中发生的算法过程的运行原理与它们所比较的生物过程完全不同。

这个问题不仅仅是语义或学术上的挑剔。这种拟人化的语言塑造了公众对人工智能的理解和联系方式，可能导致对能力的高估和错误的信任。当一个功能被称为“记忆”时，人们自然会认为它的功能与人类记忆类似——选择性的、创造性的、容易出现某些类型的错误和扭曲。事实上，人工智能系统存储和检索的是通过数学运算转换的数据，与人类记忆的联想、情感和情境性质几乎没有相似之处。

考虑一下 Anthropic 新“梦想”功能的具体案例。这个术语让人想起人工智能系统从事某种潜意识处理的图像，可能是在静止状态下整合信息或解决问题，就像人类大脑在快速眼动睡眠期间所做的那样。现实的技术性要高得多：系统正在执行计算过程来组织和聚类信息，从而使后续检索和分析更加高效。这是一种优化算法，而不是人类睡眠时发生的哲学等价物。

当考虑这些描述符如何影响监管讨论和公共政策时，术语问题变得尤为严重。政策制定者和立法者往往缺乏人工智能开发和机器学习方面深厚的技术专业知识。当他们遇到暗示人工智能系统拥有记忆、意识或梦想的术语时，可能会无意中提升他们对该技术的复杂性和自主性的看法。这种误解可能会导致不适当的监管框架——要么过于宽松，因为人工智能被认为比实际情况更容易理解和控制，要么过于严格，因为它被认为比技术现实所保证的更危险和更有感知力。

大型科技公司多年来一直采用这种策略，尽管可能并不总是出于愤世嫉俗的意图。有时这是一个方便的问题——人类衍生的术语已经嵌入到我们的语言和理解中。其他时候，人们可能会真诚地相信，让人工智能功能听起来具有相关性有助于公众掌握其潜力。但良好的意愿并不会减少这种做法的问题。当 OpenAI 谈论 ChatGPT 有“想法”时，或者当 Google 将其算法描述为从数据中“学习”时，他们正在以准确性换取可访问性，但最终会破坏两者。

一些人认为，替代方案（使用纯粹的技术术语）会让普通受众更难理解人工智能。但这种反对意见没有抓住重点。目标不应该是通过隐喻来简化；应该是准确地解释，而不是不必要的晦涩难懂。说人工智能系统“以识别模式并生成统计上可能的输出的方式处理信息”比说它“做梦”或“思考”更准确，而且理解起来也没有困难得多。问题在于，该行业尚未齐心协力开发清晰、准确且易于理解的语言。

这种语言选择还存在令人不安的商业层面。让他们的人工智能系统听起来令人印象深刻、直观且几乎像人类一样，对公司来说是既得利益。拟人化语言服务于营销目的——它让技术看起来更先进、更有能力、更值得投资。与“通过迭代算法细化进行数据集群优化”的功能相比，“梦想”功能对风险投资家和潜在客户更具吸引力。激励结构鼓励持续的虚假陈述。

科学界和学术界在这个问题上相对安静，也许是因为这个术语太普遍了，抵制它感觉是徒劳的。然而，研究人工智能伦理和人工智能安全的学者对拟人化语言如何影响公众认知和政策讨论提出了担忧。向世界引入新技术是一种责任，其中一部分责任是诚实地传达新技术做了什么和没有做什么。人工智能领域还很年轻，如果业界致力于更好的命名约定，仍然可以标准化。

展望未来，人工智能行业需要开发和采用更清晰的术语，在不依赖人类认知类比的情况下准确描述功能。这可能需要技术专家、语言学家、伦理学家和传播专家之间的合作，以创建既精确又易于理解的词汇。专业组织可以制定功能命名指南，以阻止官方文档和营销材料中使用拟人化语言。教育举措可以帮助培训记者、政策制定者和公众认识和质疑这些语言选择。

赌注确实很高。随着人工智能技术越来越多地融入关键系统（医疗保健、金融、刑事司法、国家安全），公众对这些系统实际工作方式的理解变得非常重要。误解他们的能力和局限性可能会导致部署不当、信任错误或保障措施不足。我们用来描述人工智能的术语不仅仅是学术术语，而且是学术术语。它塑造了社会如何与我们这个时代最重要的技术之一建立联系并对其进行监管。

在业界承认并纠正这一问题之前，技术现实与公众认知之间的差距将继续扩大。像 Anthropic 这样的公司应该重新考虑他们的功能命名约定，选择清晰而不是混淆的描述。构建值得信赖、安全且易于理解的人工智能系统的工作需要诚实，而这种诚实必须从我们如何谈论这些系统的实际用途开始。