人工智能透明度：坎贝尔·布朗论谁控制人工智能信息

坎贝尔·布朗，Meta 前新闻和公共事务主管，已成为透明度的直言不讳的倡导者，以确保人工智能系统如何确定向用户提供哪些信息。她的见解揭示了硅谷董事会中发生的对话与每天越来越多地与人工智能技术互动的日常消费者所提出的真正担忧之间存在令人不安的脱节。

企业叙述与公众理解之间的差距是当前人工智能领域最紧迫的挑战之一。布朗的观点是多年来在技术、媒体和公共政策交叉领域的探索所形成的，强调了不同利益相关者如何看待人工智能在信息分发中的作用。虽然科技公司专注于算法效率和业务指标，但消费者正在询问有关责任、偏见以及数据如何影响他们遇到的内容的基本问题。

“硅谷的对话是围绕一件事进行的，而消费者之间正在发生完全不同的对话，”布朗解释道，抓住了这种沟通障碍的本质。这一观察强调了技术行业必须解决的一个关键挑战，因为人工智能系统在人们获取新闻、信息和娱乐方面变得越来越重要。考虑到这些技术如何影响公众舆论和塑造信息生态系统，风险尤其高。

在 Meta 任职期间，布朗亲眼目睹了内容审核和算法决策如何随着公众监督的不断加强而演变。她的角色需要平衡公司的商业利益与监管机构、记者和倡导团体日益增加的压力，这些压力要求提高 Facebook 系统运作方式的透明度。这种独特的优势使她能够成为技术领域和更广泛的社会关注人工智能责任之间的桥梁。

布朗提出的基本问题看似简单，但却极其复杂：谁应该决定人工智能系统向用户呈现什么信息？在传统媒体中，编辑在新闻原则和编辑标准的指导下做出这些决定。然而，人工智能驱动的系统根据针对参与度、利润和其他可能不符合公共利益的指标进行优化的算法运行。在考虑数百万人如何接收每日新闻并形成他们的世界观时，这种区别非常重要。

硅谷解决这个问题的方法通常强调创新、用户选择和市场动态。技术领导者认为，算法反映了用户偏好，平台之间的竞争自然会鼓励更好的结果。他们指出现代信息系统的复杂性，并认为监管必须保持宽松，以保持技术进步的好处。这种观点将增长和技术进步视为要最大化的主要产品。

相比之下，消费者对算法推荐如何影响他们在网上看到的内容表示越来越焦虑。调查一致表明，人们担心过滤气泡、错误信息以及无法理解为什么某些内容会出现在他们的提要中。这些担忧并非源于反技术情绪，而是源于对公平性、透明度以及控制主要信息平台的少数公司所拥有的集中权力的合理质疑。公众情绪表明，当前系统无法充分满足用户利益或社会需求。

布朗的倡导反映了前科技内部人士日益增长的运动，他们认为该行业必须从根本上重新考虑其信息分发方式。这些声音认为，内容发现系统需要平衡商业利益与公共福利的治理结构。这种观点不是反对技术进步，而是寻求确保创新服务于民主价值观和人类繁荣，而不是破坏它们。

为了应对这些压力，监管环境开始发生变化。欧盟的数字服务法案、美国的各种州级举措以及拟议的联邦立法都旨在就公司如何管理算法内容建立更明确的规则。这些监管努力反映出人们认识到现状是不可持续的，并且需要一定程度的外部监督来保护公共利益。

布朗强调弥合对话差距，这表明解决方案需要技术公司、政策制定者、民间社会组织和公众之间进行真正的对话。目前，这些社区基本上在独立的对话中运作，每个群体主要与其自己的成员交谈并强化现有的观点。打破这些孤岛是制定解决多种合理关切和价值观的方法的关键一步。

挑战不仅限于新闻和信息，几乎涵盖了人工智能系统做出重要决策的每个领域。从招聘算法到贷款决定，从医疗保健建议到刑事司法评估，谁决定向谁发送哪些信息以及按照什么标准发送的问题影响着数百万人的生活结果。因此，建立人工智能决策原则所带来的影响远远超出了媒体行业的范围。

布朗的工作强调了提高公众人工智能素养的重要性。当消费者了解算法系统如何运行以及它们编码的值时，他们就能更好地批判性地评估信息，并倡导对影响他们的系统进行变革。以易于理解的语言解释这些概念的教育举措是对监管和企业改革的重要补充。

展望未来，布朗倡导的对话可能会决定社会如何适应人工智能在信息系统中不断扩大的作用。成功需要承认硅谷的创新观点和消费者对问责制的担忧都包含重要的事实。科技公司拥有关于技术上可行和经济上可持续的真正专业知识，而公众也能正确识别值得保护的风险和价值。

前进的道路可能包括建立更清晰的透明度标准，为公众对算法系统如何运作提供意见创造机会，以及建立问责机制以确保人工智能系统在商业利益的同时服务于公共利益。坎贝尔·布朗 (Campbell Brown) 对这场辩论的介入——让她了解主要科技公司如何合作运作，并对公众关心的问题表示真诚的同情——为如何开始缩小对话差距提供了一个建设性的例子。