桑德斯呼吁在技术螺旋式发展之前进行全球人工智能监督

伯尼·桑德斯与中国科学家召开国会山小组会议,讨论国际人工智能监管和防范社会风险的迫切需要。
美国参议员伯尼·桑德斯 (Bernie Sanders) 本周在国会山召开了一次重要的小组讨论,汇聚了杰出的中国科学家和政策制定者,共同解决我们这个时代最紧迫的技术挑战之一:国际人工智能监管的必要性。这次聚会凸显了立法者和专家日益担忧的问题,即人工智能的发展正在以前所未有的速度加速,超过了旨在保护社会免受潜在危害的监管框架。
在周三的小组讨论中,桑德斯强调,人工智能治理方面的全球合作不再是可选的,而是确保这种变革性技术造福人类而不是创造不可预见的风险所必需的。这位参议员长期以来对没有适当安全考虑而不受控制的技术进步持怀疑态度,他警告说,如果没有协调一致的国际努力,人工智能可能会成为一列“失控的列车”,政府将失去负责任地控制或引导的能力。他的信息引起了国际参与者的共鸣,反映出越来越多的共识,即人工智能监管不能由任何一个国家或地区单方面进行。
该小组的组成本身尤其值得注意,因为它汇集了美国和中国的声音——这两个国家在全球人工智能开发竞赛中处于领先地位。这种协作方法标志着人们认识到,有意义的人工智能保障措施需要相互竞争的技术力量之间进行对话和协调。参与讨论的中国科学家就不同的监管方式如何影响创新同时保护公共利益提出了宝贵的观点,这是世界各地监管机构正在努力实现的微妙平衡。
桑德斯将自己定位为对不受监管的人工智能进步最直言不讳的怀疑论者之一,这将他的观点与科技行业中那些经常主张放松监管的人区分开来。虽然硅谷初创公司和科技巨头继续在人工智能研发上投资数十亿美元,押注于快速扩展和商业化,但桑德斯认为,这种竞争热情必须受到公共安全和社会福利的考虑。这位参议员主张加强人工智能监督机制,这反映了众多科学家、伦理学家和政策专家的共同担忧,他们担心算法偏差、工作岗位流失、监控能力以及日益强大的人工智能系统的潜在滥用。
北京同样成为人工智能创新的主要中心,中国科技公司和研究机构与美国同行激烈竞争,开发尖端人工智能能力。中国顶尖科学家出席国会山小组会议表明,对负责任的人工智能发展的担忧超越了地缘政治界限。两国在平衡人工智能进步的经济和技术利益与防止潜在危害和确保全社会公平获得人工智能利益的需要方面面临着类似的挑战。
桑德斯小组的召开时机非常重要,恰逢全球立法机构中人工智能监管争论持续加剧。欧盟已经提出了《人工智能法案》,这是第一个针对人工智能系统的综合监管框架。相比之下,美国采取了更加分散的方法,各个机构提出了不同的监管途径。桑德斯对国际合作的推动表明,他相信协调一致的全球标准比分散的国家法规更有效,因为分散的国家法规可能会给人工智能开发人员和部署人员带来相互冲突的要求。
桑德斯和其他小组成员可能讨论的具体风险包括人工智能系统可能会延续或放大刑事司法、招聘、贷款和医疗保健应用中的现有偏见。此外,人们还担心训练大规模人工智能模型对环境的影响、人工智能力量集中在少数大公司手中,以及人工智能被武器化或用于大规模监视的潜力。这些问题超越国界,因此需要涉及国家间合作的解决方案,而不是为了追求快速上市优势而可能降低安全标准的竞争。
国际小组形式还承认,一个国家制定的人工智能安全标准可能会产生有利的一致性或有问题的分裂,具体取决于它们的开发方式。如果主要的人工智能发展中国家制定不兼容的监管要求,公司可能会面临重大的合规挑战,或更糟糕的是,可能会简单地搬迁到监管最不严格的司法管辖区。这种监管套利可能会破坏人工智能安全计划的全部目的。通过将中国科学家和美国政策制定者聚集在一起,桑德斯帮助促进了防止这种结果所必需的对话。
桑德斯将人工智能发展描述为“失控的火车”,这抓住了许多观察大型语言模型、生成式人工智能系统和其他突破性技术快速发展的人的情绪。发展速度甚至令该领域的许多专家感到惊讶,其能力的出现速度比许多预测所暗示的要快。这种加速使得主动监管的需求变得更加迫切,因为在制定指导方针之前等待问题显现可能会让有害应用程序在纠正之前变得根深蒂固。
小组讨论可能涵盖了人工智能治理模型的各种方法,包括讨论监管是否应侧重于特定应用而不是一般原则、监督是否应由政府或行业进行,以及如何在维护安全的同时促进创新。不同的民主国家在这些问题上采取了不同的哲学,而中国观点的输入增加了额外的复杂性,因为它们的治理模式与西方民主方法有很大不同。尽管如此,在基本安全原则上找到共同点仍然是可能且可取的。
桑德斯召集这次高层讨论的努力表明了他的信念:人工智能治理不能完全交给市场力量或企业自我监管。这位参议员始终坚信,影响公共福利的重大技术变革需要民主监督和公众投入,而不仅仅是公司董事会做出的决策。他对国际合作的倡导延续了呼吁采取全球解决方案应对全球挑战的传统,无论是应对气候变化、流行病应对,还是现在的人工智能发展。
国会山小组的影响超出了直接的政策讨论范围,它向全球人工智能界发出信号,表明主要民主国家的政策制定者正在认真考虑围绕人工智能发展建立护栏。这些努力最终能否成功建立一致的国际框架仍不确定,因为政治、经济和国家安全利益将不可避免地使谈判复杂化。然而,跨越地缘政治分歧进行对话的意愿是解决许多人认为的未来几十年的决定性技术挑战之一的重要一步。
来源: The Guardian


