在 Anthropic 拒绝后,谷歌扩大五角大楼人工智能访问范围

在 Anthropic 拒绝支持国内监控和自主武器后,谷歌与美国国防部签署了新的人工智能访问合同。
Google 与美国国防部签订了一份重要的新合同,在 Anthropic 故意决定拒绝参与类似安排后,扩大了这家科技巨头与军事部门的合作伙伴关系。此举标志着主要人工智能公司在政府军事应用和监视计划方面的定位发生了显着转变。
Anthropic 是一家由前 OpenAI 研究人员创立的专注于人工智能安全的公司,该公司明确拒绝了国防部利用其先进语言模型进行国内大规模监视行动和自主武器系统开发的请求。该公司的决定反映了科技行业内对在没有充分保障和监督机制的情况下在军事和执法环境中部署尖端人工智能技术的道德影响日益增长的担忧。相比之下,Google 积极推进与五角大楼的合作伙伴关系,表明该公司愿意向军事应用提供 AI 功能,尽管公众对此类合作的审查和内部员工的担忧越来越大。新合同扩展了科技公司与国防部之间的现有关系,进一步巩固了谷歌在军事人工智能开发中的作用。这一决定凸显了领先的人工智能公司在军事和政府合作方面的不同做法。
Google 和 Anthropic 方法之间的区别凸显了人工智能行业内关于企业责任和强大人工智能系统的适当使用的更广泛辩论。 Anthropic 的拒绝主要是出于对人工智能监控技术可能如何在国内被滥用、可能侵犯隐私权和公民自由的合理担忧。该公司担心自主武器系统可能在没有足够的人类监督和问责的情况下运行,从而引发严重的道德和法律问题。
Google 决定与五角大楼进行更深入的接触之际,该公司正面临多个利益相关者对其军事合同施加的越来越大的压力。员工激进主义一直是一个值得注意的因素,谷歌员工此前曾抗议该公司参与 Maven 项目,这是一项早期开发人工智能军事监控工具的举措。尽管存在这些内部反对意见,Google 领导层仍优先考虑与五角大楼的关系,认为它对于公司的国防和国家安全组合具有重要的战略意义。
国防部已明确表示,它决心利用主要科技公司的人工智能能力,实现作战能力现代化,并在日益依赖技术的军事环境中寻求竞争优势。国防部官员强调,人工智能将成为未来军事行动的核心,从后勤优化到战略决策支持系统。该机构认为与 Google 等公司的合作对于快速有效地实现这些现代化目标至关重要。
Anthropic 的立场反映了一些技术领导者越来越多的运动,要求围绕人工智能的军事和监视应用建立更清晰的道德界限。该公司一直在开发具有明确安全性和一致性考虑的克劳德语言模型,旨在创建更能抵抗滥用的人工智能系统。通过拒绝五角大楼的要求,Anthropic 将自己定位为一家优先考虑道德发展实践而不是利润丰厚的政府合同的公司,尽管这一策略可能会限制其在政策讨论中的影响力。
Google 与五角大楼的安排引发了有关军事领域人工智能治理和监管未来的重要问题。随着人工智能在国防行动中变得越来越重要,建立适当的监督机制和道德准则变得更加重要。目前,还没有专门管理军事实体如何部署人工智能系统的全面联邦框架,让各个公司自行决定可接受的用途。
行业观察家指出,谷歌与五角大楼合作的意愿可能会影响其他主要人工智能公司对军事合同的计算。一些公司可能将谷歌的行动视为军事合作伙伴关系在行业内变得正常化的一个迹象,可能会改变竞争动态。其他人则认为,Anthropic 的拒绝表明公司可以在保持竞争力的同时保持原则立场,即使这意味着在短期内放弃某些有利可图的机会。
这一发展的更广泛背景包括科技公司和政府机构之间在监视能力、数据访问和新兴技术的适当使用方面持续存在的紧张关系。 谷歌对五角大楼的访问权限的扩大代表了复杂环境中的一个数据点,在这一复杂环境中,科技公司一边游说有利的法规、与政府机构合作,一边面临来自员工和公民自由倡导者担心监控过度的压力。
谷歌与五角大楼的合同可能会让该公司对军事人工智能系统的开发和部署方式产生重大影响。这种影响可能会延伸到塑造军事人工智能政策和实践,可能有利于与谷歌现有技术平台和商业利益兼容的方法。批评者担心,影响力集中在少数大型科技公司手中,会造成商业利益和军事战略交织在一起的问题动态。
展望未来,Google 和 Anthropic 之间的分歧表明,人工智能行业可能会进一步分化为具有不同道德立场以及与政府机构不同关系的公司。这种碎片化可能会对人工智能治理的发展产生重大影响,因为具有不同价值观和优先事项的公司主张不同的监管方法。这些竞争动态的结果可能会极大地影响未来几年人工智能在国防和监视领域的发展轨迹。
Google 和 Anthropic 的决定反映了有关科技公司在现代防御系统和情报行动中的作用的更深层次问题。随着人工智能能力的不断进步,这些问题只会变得更加紧迫。该行业最终是遵循 Google 更深层次军事参与的道路,还是 Anthropic 更为谨慎的做法,不仅可以决定竞争格局,还可以决定军事人工智能能力的性质及其对整个社会的潜在影响。
来源: TechCrunch


