谷歌与五角大楼签署机密人工智能协议

据报道,谷歌同意达成一项机密协议,允许美国国防部将人工智能模型用于任何合法的政府目的,这引发了员工的担忧。
据报道,谷歌已与五角大楼签署了一项机密协议,这一重大进展突显了人工智能与国防行动之间的日益交叉。该协议允许美国国防部广泛使用其人工智能模型,以实现官方所说的“任何合法的政府目的”。该协议首先由 The Information 报道,标志着技术领域参与机器学习和先进计算系统军事应用的关键时刻。
这一声明的时机具有特殊的重要性,它是在 Google 发生重大内部叛乱后几个小时发布的。公司上下的员工向首席执行官桑达尔·皮查伊(Sundar Pichai)写了一封公开信,敦促他实施严格的保障措施,防止五角大楼出于他们认为可能“不人道或极其有害”的目的访问或利用谷歌的人工智能技术。员工请愿书代表了公司内部罕见的公开异议时刻,突显了人工智能行业与军事承包商和国防部门关系日益严重的道德紧张关系。
该协议的机密性质意味着许多具体细节仍未向公众披露,也可能向 Google 内部的一些利益相关者披露。然而,允许用于“任何合法政府目的”的广泛语言表明了一个非常广泛的框架,可以涵盖从战略分析和后勤优化到更敏感的军事应用的所有内容。这种全面的范围加剧了技术专业人士的担忧,他们担心在国防环境中部署先进的人工智能系统的潜在影响。
<图片src =“https://platform.theverge.com/wp-content/uploads/sites/2/chorus/uploads/chorus_asset/file/24925007/23678 0_Google_AntiTrust_Trial_Custom_Art_CVirginia__0001_5.png?quality=90&strip=all&crop=0%2C0%2C100%2C100&w=2400" alt="Google 首席执行官桑达尔·皮查伊 (Sundar Pichai) 在技术会议上发表讲话,背景为 Google 徽标" />如果该协议得到官方确认,谷歌将加入一个日益排外的主要科技公司俱乐部,这些公司已与美国军方签订了机密合同。 OpenAI 是广为人知的 ChatGPT 系统背后的公司,它已经与五角大楼正式签订了自己的机密协议,为愿意直接与国防机构合作的人工智能公司树立了先例。同样,埃隆·马斯克 (Elon Musk) 领导的人工智能企业 xAI 也获得了自己的国防部合同,这表明更广泛的行业趋势走向军事合作。
这一进展还表明,由前 OpenAI 研究人员创立的另一家主要人工智能公司 Anthropic 可能正在与五角大楼就类似安排进行持续讨论。多家领先人工智能公司围绕国防合同的这种融合,既反映了军事规划者对先进人工智能能力的战略重要性,也反映了这些合作伙伴关系为寻求稳定、高价值收入流的科技公司带来的经济机会。
谷歌员工的反对反映了更广泛的社会对人工智能技术军事化的焦虑。人们的担忧集中在自主武器系统、可能缺乏足够人类监督的目标识别算法以及人工智能系统在没有足够透明度或问责制的情况下做出重大决策的可能性等问题。谷歌与五角大楼协议中的“任何合法目的”措辞并不能缓解这些担忧,因为合法目的的定义可能会根据随着时间的推移而演变的法律解释而发生变化。
这种情况反映了技术行业内商业需求和社会责任之间的根本紧张关系。与其他主要科技公司一样,谷歌在一个由政府关系、投资者期望和员工价值观组成的复杂生态系统中运营。虽然利润丰厚的国防合同可以大幅提高股东回报,但它们同时也有疏远加入该公司的员工的风险,因为该公司明确承诺以负责任和道德的方式开发人工智能。
这份机密协议还提出了有关透明度和公共监督的重要问题。当主要科技公司和政府机构之间的协议仍然隐藏在公众监督之外时,公民、民选代表甚至其他利益相关者就很难了解先进技术的部署方式或目的。这种不透明性可能会破坏民主问责制和公众对科技公司和政府机构的信任。
放眼更广阔的前景,多家人工智能公司与五角大楼合作的出现表明,军事机构将先进人工智能视为值得大量投资和开发的战略关键基础设施。尽管学术研究人员和伦理学家继续对在军事环境中部署此类系统的安全和社会影响表示担忧,但 OpenAI、Google、xAI 和潜在的 Anthropic 之间为获得这些合同而展开的竞争可能会加速人工智能技术的军事化。
Google 员工的反对也表明了科技公司内部动态的演变。十年前,在大型科技公司中,在企业战略和合作伙伴关系问题上对高管领导层提出如此直接的挑战几乎是不可想象的。围绕政府合同、数据隐私和人工智能道德等问题出现的有组织的员工激进主义代表了技术行业内工作场所文化和公司治理的重大转变。
此外,这一发展是在主要科技公司持续受到监管审查的背景下发生的。国会、联邦贸易委员会和国际监管机构越来越关注科技公司如何管理其人工智能系统以及存在哪些防止滥用的保障措施。五角大楼的协议如果得到确认,可能会在即将举行的关于人工智能开发企业责任的听证会和监管讨论中占据重要地位。
这项Google 五角大楼人工智能协议的潜在确认引发了远远超出企业合作伙伴关系范围的紧迫问题。随着各国争夺人工智能优势和军事优势,领先的私营人工智能公司参与国防应用变得不可避免。然而,确保这些合作与民主价值观、道德原则和国际人道主义法保持一致的机制仍然不完善,并且对公众监督和问责不够透明。
随着这种情况的继续发展,政府、行业和民间社会的利益相关者将需要解决一些基本问题,例如私营科技公司在国防中的作用、人工智能军事应用的适当保障措施,以及在商业竞争和国家安全问题对保密和运营自主性产生强大激励的领域中维持公众意见和民主监督的机制。
来源: The Verge


