人工智能专家在 OpenAI 试验中警告 AGI 军备竞赛

Stuart Russell 是世界上人工智能研究领域最受尊敬的声音之一，他已成为针对 OpenAI 正在进行的法律诉讼中的关键人物。这位花费数十年时间研究先进人工智能系统影响的著名计算机科学家，以专家证人的身份出庭，传达了一个发人深省的信息：开发日益强大的人工智能技术的全球竞争可能会引发一场威胁人类利益的危险且不稳定的军备竞赛。

Russell 参与试验代表了关于社会应如何监管前沿人工智能实验室及其竞相开发更强大系统的持续争论的一个重要时刻。他的证词来自数十年对人工智能安全、道德和治理的研究，这使他对不受控制的人工智能发展带来的生存风险发出了独特的合格声音。这位计算机科学家一直认为，如果没有适当的监督和国际合作，对通用人工智能 (AGI) 的追求可能会演变成一种竞争动态，每个主要参与者（无论是政府还是私营公司）都被迫在安全措施上走捷径。

在整个职业生涯中，Russell 一直直言政府需要在控制和指导前沿人工智能技术的发展方面发挥更积极的作用。他的学术工作和公开声明都强调，AGI 开发的风险太大，不能仅仅依靠自愿的行业承诺或市场驱动的激励措施。相反，拉塞尔主张对人工智能开发进行政府监管，类似于过去对核技术和其他潜在危险创新的监管方式。

拉塞尔警告的通用人工智能军备竞赛概念对人工智能安全倡导者来说是一个特殊的噩梦场景。在这种情况下，国家和公司变得如此专注于首先实现通用人工智能能力，以至于他们忽视了安全研究和监督机制。每个竞争对手都担心，如果他们放慢实施强有力的安全措施的速度，他们就会落后于不那么谨慎的竞争对手。从而创造了经典