特朗普和习近平面临人工智能军备竞赛困境

探讨特朗普和习近平是否会在潜在的外交会谈中试图规范中美之间不断升级的人工智能竞争。
两国领导人之间高层外交接触的潜力表明,两国政府都认识到不受控制的人工智能进步所带来的生存风险。美国和中国官员之间的战略会谈可以建立负责任的人工智能治理框架,这将使两国受益,同时减少系统失调造成灾难性后果的可能性。
近年来,华盛顿和北京都投入了大量资源来开发尖端人工智能能力,将技术优势视为国家安全和经济竞争力的组成部分。这场竞赛推动了显着的创新,但也引发了人们对安全标准、道德考虑以及人工智能系统潜在军事化的担忧。
历史先例表明,即使是敌对国家也能在生存风险上找到共同点。冷战时期美国和苏联之间的核武器控制协议表明,在共同维护利益的推动下,对手可以通过谈判限制潜在破坏性技术。
中美人工智能竞争提出了独特的挑战,因为与核武器不同,人工智能的开发主要通过民用商业企业而不是国家控制的项目进行。这种分散的性质使潜在的监管协议变得复杂,因为任何一个政府都无法在不对私营行业创新施加严格限制的情况下单方面控制各自境内的所有发展。
中国国家主席习近平此前强调了人工智能安全和道德国际合作的重要性,并建议就这些关键问题进行对话。与此同时,特朗普政府表达了对中国技术进步的担忧,同时也认识到人工智能治理的合作方式可以带来互惠互利。
建立有意义的人工智能监管协议的技术复杂性不容低估。验证人工智能开发限制的合规性提出了与传统军控验证机制不同的新挑战。检查员如何确保公司不会超出商定的计算限制或开发禁止的功能?这些实际的实施问题在很大程度上仍未得到解决。
除了验证问题之外,各国之间在人工智能的核心技术和哲学方法方面也存在重大分歧。美国强调开源开发和竞争市场,而中国则主张国家对人工智能研发计划进行更加集中的协调。
对于在当前地缘政治气候下能否达成有意义的国际人工智能军备竞赛协议,行业专家仍存在分歧。一些人认为,所面临的竞争优势对于任何一个国家来说都太过重大,以至于无法自愿限制其发展努力,而另一些人则认为,生存风险需要前所未有的合作。
协作人工智能安全框架的潜在好处超出了美国和中国之间的双边关系。其他技术先进国家,包括欧盟、英国和日本,都表现出了建立负责任的人工智能开发和部署国际标准的兴趣。
技术领导者和国家安全专家最近的声明越来越强调在系统变得过于复杂而无法控制或理解之前解决人工智能治理挑战的紧迫性。人工智能能力发展的轨迹表明,有关监督和监管的关键决策必须在相对近期内做出才能保持有效。
达成有意义的协议的一个重大障碍是难以准确定义哪些技术应该受到限制或限制。人工智能涵盖极其广泛的应用和功能,从狭窄的专用系统到更通用的模型,使得构建全面的监管框架具有挑战性。
人工智能发展的经济利益使中美之间的潜在谈判进一步复杂化。两国都将人工智能视为其经济未来的基础,其应用涵盖医疗保健、金融、制造、运输和几乎所有其他经济领域。限制人工智能的发展可能会给两国带来巨大的经济成本。
两国舆论反映了对人工智能发展不同程度的担忧。虽然一些公民担心先进人工智能系统的生存风险,但其他人却优先考虑强大的人工智能技术可以带来的潜在利益和经济机会。这些国内政治考虑影响着政府在国际谈判中的立场。
尽管似乎存在实质性讨论的机会,但特朗普和习近平就人工智能事务进行潜在外交接触的时间表仍不确定。在众多其他紧迫的国际问题中,任何一位领导人是否会优先考虑限制人工智能军备竞赛仍然是一个悬而未决的问题,这将显着影响全球技术发展格局。
无论高层会谈是否达成正式协议,负责任的人工智能开发实践的基本要求都在不断增强。今天正在开发的技术能力将塑造子孙后代的世界,使这些决定成为我们这个时代最重要的决定。
来源: The New York Times


