人工智能聊天机器人传播选举错误信息

一项重大的新调查暴露了人工智能聊天机器人中令人不安的漏洞，揭示了包括 ChatGPT 在内的热门平台在苏格兰选举期间系统性地向选民提供了不准确的信息。这些调查结果促使监管机构要求立即采取行动，引发了人们对当前保护民主进程免受人工智能生成的错误信息影响的保障措施是否充分的严重质疑。

选举委员会紧急呼吁建立新的法律框架，专门用于控制来自人工智能聊天机器人服务的错误信息的传播。此次干预是在智库 Demos 进行的研究发现向寻求合法选举指导的选民分发虚假信息的惊人模式之后进行的。该监管机构的立场表明，英国当局越来越担心这些人工智能工具对选举诚信和公众对民主机构的信心构成的潜在威胁。

根据 Demos 的全面调查，人工智能服务在回答他们研究期间提出的 34% 的问题时提供了错误信息。这一统计数据表明失败率很高，表明超过三分之一的选民询问导致了不准确、误导性或完全捏造的答复。这些发现强调了问题的严重性以及在未来选举事件发生之前进行干预的迫切需要。

除了虚构的候选人之外，该研究还记录了聊天机器人制造涉及真实政治人物的完全虚构的丑闻的实例。这些人为制造的争议具有明显的权威性，可能会损害声誉并误导选民了解实际的政策记录和行为。这些系统能够生成有关真实人物的可信虚假叙述，这对公平选举过程构成了重大威胁。

选举事件的错误日期构成了另一类令人担忧的错误。当选民询问投票时间、登记截止日期或其他对参与选举至关重要的时间敏感信息时，一些人工智能服务提供了错误的日期。此类错误可能会直接阻止公民投票或正确参与选举过程，从而有效地剥夺依赖这些平台的用户的选举权。

Demos 强调，这些发现引发了令人深感担忧的问题，即英国目前缺乏对人工智能平台的监管。与在既定监管框架和新闻标准下运营的传统媒体不同，人工智能聊天机器人目前在很大程度上不受监管的环境中运营。没有强制性的事实核查要求，不承担错误信息的责任，也没有与管理传统新闻来源的问责机制相媲美的问责机制。

选举委员会呼吁采取新的法律控制措施，这表明它承认现有的监管框架不足以应对这一新出现的挑战。该机构表示，有必要专门针对人工智能生成的错误信息进行立法，以保护未来的选举活动免受类似问题的影响。这代表着监管思维的重大转变，因为政策制定者正在努力解决如何平衡技术创新与民主保障的问题。

行业观察家指出，监管人工智能错误信息的挑战与控制人类生成的虚假信息有很大不同。打击错误信息的传统方法通常侧重于识别不良行为者并建立问责制。然而，对于人工智能系统，问题变得更加复杂，因为错误通常是由于技术限制而不是故意欺骗造成的。这些系统会生成看似合理的虚假信息，因为它们处理训练数据中的语言模式的方式不同，不一定是因为它们包含误导性的指令。

鉴于政府和民间社会关于人工智能监管的持续争论，这些发现的时机尤为重要。尽管一些技术倡导者认为，过早的监管可能会扼杀创新，但民主机构越来越担心人工智能系统监控不充分对基本流程造成的风险。苏格兰选举案例提供了具体的证据，表明这些担忧不仅仅是理论上的，而且代表了真实的、记录在案的威胁。

展望未来，政策制定者面临着如何在不造成过于繁重的限制的情况下对人工智能聊天机器人准确性实施有效监督的难题。一些提案建议要求人工智能公司在讨论准确性至关重要的主题时实施事实检查系统或显示不确定性警告。其他人则主张透明度要求，迫使平台披露人工智能生成而不是人类专家提供的内容。

选举委员会的干预表明，解决人工智能选举错误信息可能会成为英国监管机构未来几年的首要任务。随着人工智能不断进步并变得更容易为公众所接受，确保选举期间信息可靠的风险只会增加。苏格兰选举案例是一个警示性的例子，说明当流行的人工智能服务不遵守对民主参与至关重要的信息的准确性标准时，可能会发生什么。