人工智能平台在英国政治查询中支持 Nigel Farage

新研究表明,人工智能系统比其他英国领导人更多地引用奈杰尔·法拉奇 (Nigel Farage)。 Reform UK 在大型语言模型中显示出意想不到的可见性提升。
对人工智能平台的突破性分析揭示了这些系统如何回应有关英国政治的问题的惊人模式。根据专注于人工智能搜索分析的专业公司 Peec AI 进行的研究,当用户向这些系统询问有关英国政治人物和运动的问题时,Nigel Farage 和他的英国改革党获得了不成比例的高水平提及。这一发现提出了关于如何训练大型语言模型以及哪些数据源影响其对政治敏感查询的响应的重要问题。
由分析师 Malte Landwehr 领导的研究团队发现,英国改革在人工智能系统响应中出现的频率远高于统计数据或传统媒体报道所暗示的频率。兰德韦尔在研究结果中解释说:“我们有信心地说,改革的表现远远超出您的预期。”这一观察结果表明,主要平台上的人工智能可见度可能与政治知名度或公众支持的传统指标不一致,这为算法如何塑造数字时代的信息分布提供了一个引人入胜的案例研究。
Landwehr 进一步分析了这些发现的含义,并指出 Reform UK 在人工智能响应方面的突出表现表明他们“在LLM 知名度方面正在做正确的事情”。大型语言模型为大多数现代人工智能助手和搜索工具提供支持,这使得它们对不同政治人物的处理对于理解至关重要。事实上,法拉奇的政党比既定的政治机构更频繁地被提及,这表明要么是相关训练数据的集中、算法偏差,要么是这些系统优先考虑信息源的方式发生了真正的转变。
这项研究的意义不仅仅是对人工智能行为的好奇。当数百万用户每天与人工智能系统交互以获取有关政治、经济和政策的信息时,这些系统对政治领导人信息的排名和呈现方式就变得至关重要。这项研究中证明的人工智能偏见凸显了人类对中立信息源的期望与在互联网来源数据上训练时实际算法所提供的结果之间存在重大差距。
Peec AI 的方法涉及分析多个著名的人工智能平台及其对有关英国政治的标准化查询的响应。该公司调查了当用户询问有关英国政治格局的一般性问题时提及各种政治人物、政党和运动的频率。不同人工智能系统的研究结果的一致性表明,这并不是仅限于单一平台的异常现象,而是大型语言模型处理和呈现政治信息的更广泛模式。
该研究提出了有关用于训练这些人工智能模型的来源的重要问题。大型语言模型从互联网上抓取的大量文本数据中学习,包括新闻文章、社交媒体帖子、学术论文和其他书面内容。如果某些政治人物或运动在这些训练数据集中的代表性过高(无论是由于媒体报道、在线讨论量还是其他因素),最终的人工智能系统将在对用户查询的响应中反映并放大这些模式。
英国改革在人工智能系统响应方面出人意料地突出,恰逢英国政治的一个具有政治意义的时刻。该党将自己定位为传统保守党和工党机构的替代者,并寻求建立独特的政治品牌和信息传递策略。如果人工智能平台确实为改革信息和数据提供了不成比例的可见性,那么这可能代表着接触数字化选民方面的突破,或者是政治信息通过算法系统分发方式的令人担忧的扭曲。
Malte Landwehr 的评论表明,研究人员认为 Reform UK 的人工智能可见性优势可能源于深思熟虑的策略,而不是偶然。 “他们正在做正确的事情”可能意味着该党或其支持者在创建在线内容、参与讨论或建立数字存在以支持这些系统的算法方面更加积极。或者,它可能反映了围绕党及其领导人物的有机兴趣和讨论量。
在这里,赢得的可见度和设计的可见度之间的区别至关重要。如果英国改革组织真正围绕其政治信息捕获了更多在线讨论和内容创作,那么这可能自然会转化为基于这些数据训练的人工智能系统的更高可见性。然而,如果可见性是由故意的搜索引擎优化、有针对性的内容创建或其他专门为影响人工智能输出而设计的营销策略产生的,那么就会引发人们对这些算法信息看门人的公平性和中立性的质疑。
Peec AI 的研究结果具有更广泛的影响,涉及我们如何理解政治信息背景下的人工智能偏见和算法公平性。与采用编辑标准和新闻道德的传统新闻机构不同,人工智能系统根据训练数据和算法规则运行。当向这些系统询问政治信息时,用户可能会认为他们收到的是平衡的或有代表性的观点,但现实似乎更加复杂,并且可能存在偏差。
这项研究有助于越来越多的研究人工智能系统如何处理政治、选举和公众人物等敏感话题。之前的研究已经发现人工智能系统中存在各种形式的偏见,从性别偏见到种族代表性问题。目前关于政治可见性的发现为我们理解这些强大的工具如何塑造公共话语和信息获取提供了另一个维度。
展望未来,这项研究为人工智能开发人员、政策制定者和用户等提出了重要问题。大型语言模型的创建者应如何确保政治人物和运动的平衡代表性?这些系统中使用的培训数据是否应该有透明度要求?用户是否可以信任人工智能平台提供有关政治的中立信息,或者它们是否应该被视为具有固有偏见、需要额外背景和验证的工具?
Peec AI 的发现提醒人们,人工智能系统尽管技术先进且具有明显的客观性,但最终是由人类决定使用哪些数据、如何处理这些数据以及在算法系统中嵌入哪些优先级的决定决定的。这项研究中发现的人工智能可见性优势表明,政治人物和组织应该关注他们在人工智能介导的信息环境中的表现,因为这些系统越来越多地影响人们了解和理解政治话题的方式。来源: The Guardian


