白宫警告中国公司盗窃人工智能模型

白宫备忘录显示,中国公司针对美国人工智能技术和知识产权广泛盗窃人工智能模型。
根据政府高级官员之间流传的一份机密备忘录,白宫对中国公司策划的不断升级的人工智能模型盗窃模式发出了严重警报。该文件由政府技术政策部门的知名人士 Michael Kratsios 撰写,详细介绍了外国实体如何在未经授权或补偿的情况下系统地提取和重新利用美国开发的先进人工智能模型。
Kratsios 的备忘录特别指出了一个令人不安的趋势,即中国公司正在参与官方所说的“非法人工智能蒸馏”,这是一个复杂的过程,其中美国专有的人工智能系统被逆向工程并压缩为未经授权的版本。这些经过提炼的模型保留了大部分原始技术的功能,同时规避了管理尖端人工智能技术合法使用的许可协议和知识产权保护。
这种协调一致的努力的影响远远超出了企业间谍活动的范围,涉及国家安全和人工智能领域技术竞争力的基本问题。政府分析人士警告说,被盗人工智能模型的迅速扩散可能会从根本上削弱美国公司的市场优势,并加速敏感技术向对美国利益有潜在敌对意图的行为者的扩散。
该备忘录的发布反映出,在快速扩张的人工智能开发领域,华盛顿和北京之间在技术转让和知识产权保护方面的紧张关系日益加剧。官员们认为,中国公司不仅仅是购买合法许可证或试图独立开发竞争技术,而是参与协调行动,以获取代表美国科技公司多年研究、开发和大量金融投资的完整模型。
接受白宫调查结果采访的行业专家表明,该漏洞部分源于人工智能模型本身的性质。与可以通过加密和访问控制更轻松地保护的传统软件不同,训练有素的机器学习模型一旦部署或集成到可访问的系统中,就可以通过各种技术方法进行访问和分析。这种架构现实带来了安全分析师所描述的持续挑战,即保护人工智能知识产权免受拥有足够技术能力的复杂对手的攻击。
美国主要科技公司私下证实了备忘录中提出的担忧,向情报机构提供了可疑下载模式、逆向工程尝试以及对其专有模型的可疑重新部署的证据。一些公司报告发现他们的模型被用于中国平台上的商业应用,识别标记被剥离以掩盖其来源和所有权。
白宫备忘录发布的时间恰逢拜登政府内部就如何加强对美国人工智能模型安全和技术创新的保护进行更广泛的政策讨论。据报道,政府官员正在考虑制定新的监管框架,对与人工智能系统相关的知识产权盗窃行为实施更严厉的处罚,并加强监控机制,以检测和防止未经授权访问专有技术。
值得注意的是,该备忘录并未将其担忧仅限于明显的商业竞争对手。相反,它将威胁格局描述为涵盖国家资助的实体、与政府有联系的私营企业以及在中国监管环境下运营的独立技术公司。这种更广泛的特征反映了中国私营企业和政府机构之间的复杂关系,商业利益和国家目标之间的界限往往相当模糊。
这一披露促使人们更加严格地审查美国公司目前在国际市场或通过基于云的服务部署人工智能模型时如何保护其人工智能模型。安全专家指出,许多人工智能模型蒸馏攻击利用相对容易访问的部署架构,其中模型被用作后端服务来为面向客户的应用程序提供支持,从而创建多个潜在的拦截点。
国会两党领导人都对 Kratsios 备忘录中概述的影响表示担忧,一些人呼吁立即采取立法行动,加强对技术盗窃的惩罚。立法者认为,当前的法规可能不足以解决人工智能模型挪用带来的新挑战,特别是考虑到模型经过提炼或修改后很难建立明确的所有权和归属。
白宫的披露还标志着政府计划如何处理与中国的技术竞争的潜在转变。政策制定者不再仅仅关注制造能力或传统半导体竞争,而是越来越认识到,人工智能的领先地位关键取决于保护先进系统背后的知识产权。这种认识对于联邦机构如何优先考虑网络安全资源和国际技术政策具有影响。
展望未来,官员们表示,政府正在制定一项全面的战略,以解决备忘录中发现的漏洞。这种方法预计将包括使模型更能抵抗蒸馏攻击的技术措施、阻止盗窃的政策干预以及围绕人工智能知识产权保护建立国际规范的外交努力。
这场争议凸显了全球人工智能主导地位竞争的高风险。随着大国竞相开发能力越来越强的人工智能系统,保护技术成果已成为全球国家安全官员的核心关注点。白宫备忘录代表了一个重要的认识,即这场竞赛不仅包括创新竞赛,还包括针对国家资助和商业行为者寻求通过未经授权的方式获取先进技术的防御措施。
来源: BBC News


