穆拉蒂声称奥特曼在人工智能安全标准上撒了谎

OpenAI 前首席技术官证实,首席执行官萨姆·奥尔特曼 (Sam Altman) 在正在进行的马斯克诉奥尔特曼案审判中就安全协议做出了虚假陈述。
Mira Murati,OpenAI 前首席技术官,在备受瞩目的马斯克诉 Altman 法律诉讼中的宣誓证词中对首席执行官 Sam Altman 提出了严重指控。在周三提交给法庭的视频证词中,穆拉蒂声称奥特曼故意向她歪曲了有关公司新开发的人工智能模型的安全标准和部署协议的事实。该证词是正在进行的诉讼中的一个重要时刻,因为 OpenAI 的一位最高级别的前高管提供了有关该组织涉嫌不当行为的第一手资料。
在证词期间,Murati 被要求评估 Altman 向她做出的有关公司内部审查流程的陈述的真实性。具体来说,Altman 据称声称 OpenAI 的法律部门已确定新的人工智能模型不需要公司部署安全委员会的评估。当被直接问到奥特曼的说法是否属实时,穆拉蒂明确地回答了一个词:“不。” Altman 的说法与 Murati 的回忆之间的鲜明矛盾引发了有关 OpenAI 领导结构内部透明度和问责制的严重问题。
穆拉蒂证词的含义超出了高管之间简单的分歧。 OpenAI 的部署安全委员会被设计为一个关键检查点,以确保人工智能系统在发布给用户或公众之前满足适当的安全和道德标准。据称,通过规避或歪曲这一安全机制,Altman 可能损害了本应保护 OpenAI 及其用户的仔细风险评估流程。 Murati 的说法表明,此类安全协议并未在公司的所有项目中得到一致应用。
除了对 AI 模型安全审查的具体指控之外,Murati 还谈到了她在担任 OpenAI 首席技术官期间与 Altman 的工作关系的更广泛担忧。根据她的证词,奥特曼的管理风格和决策造成了重大障碍,使她的角色更具挑战性和复杂性。穆拉蒂表示,她对奥特曼领导层的批评源于合理的管理担忧,而不是个人不满。这些评论描绘了全球最著名的人工智能公司之一在快速增长和公众监督时期的内部摩擦。
马斯克诉奥特曼审判引起了科技行业内外的广泛关注,因为它涉及人工智能发展中一些最具影响力的人物之间的纠纷。埃隆·马斯克(Elon Musk)是 OpenAI 的联合创始人,但几年前离开,他在奥特曼的任期内挑战了公司的方向和领导力。此次法律诉讼为了解 OpenAI 的内部运营和决策提供了一个窗口,OpenAI 是现存最秘密、最受密切关注的人工智能研究组织之一。
Murati 作为前首席技术官的角色使她能够直接了解公司的技术决策、安全协议和战略方向。作为 OpenAI 最资深的技术领导者之一,她会密切参与了解新模型是如何开发、测试和准备部署的。她离开公司以及随后愿意在宣誓后提供证词,表明她对她在任职期间目睹的做法表示严重担忧。由于这位前高管对 OpenAI 内部运营的深入了解以及她在组织中的突出地位,她的叙述尤其重要。
考虑到当前对人工智能开发监管审查力度加大的环境,有关规避安全委员会审查流程的具体指控尤为重要。世界各地的政府和监管机构越来越注重确保人工智能公司实施强有力的安全措施和透明的审查流程。任何有关大型人工智能公司领导层可能绕过这些保护措施的建议都可能对 OpenAI 的声誉、监管地位以及行业内有关人工智能安全的更广泛讨论产生严重影响。
Murati 的证词还凸显了人工智能公司内部存在的快速发展与谨慎部署之间的紧张关系。初创公司和科技公司通常面临着快速行动并将新产品推向市场的压力,这有时可能与更慢、更彻底的安全审查流程发生冲突。 Altman 所谓的对法律部门立场的歪曲可能反映了加快开发和部署时间表的尝试,尽管这种捷径可能会损害旨在保护用户和公众的安全协议的完整性。
法庭上的视频证词片段为诉讼过程增添了戏剧性元素,因为陪审员和观察员可以直接看到和听到 Murati 的发言,而不是阅读笔录。她的举止、语气和对提问的回应都会影响她的证词给该案决策者留下的整体印象。当被问及奥特曼的真实性时,她直截了当地说“不”,这是一种在法律诉讼中引起强烈共鸣的清晰、明确的声明。
随着马斯克诉 Altman 审判的继续,更多的证词和证据预计将有助于进一步了解 OpenAI 的运营实践以及主要高管之间的关系。该案不仅对直接涉案各方具有重大影响,而且对更广泛的人工智能行业也具有重大影响,该行业正在关注法院如何处理涉及尖端科技公司的纠纷和新颖的法律问题。 Murati 愿意就 Altman 涉嫌不当行为提供坦诚证词,这是诉讼程序中的关键时刻。
本证词中提出的指控强调了开发强大人工智能系统的组织内部强有力的治理结构和诚实沟通的重要性。随着人工智能技术对社会变得越来越重要,开发这些系统的公司的信誉和诚信变得越来越重要。 Murati 的叙述提醒我们,即使是在资源丰富的知名人工智能公司,规定的程序与实际做法之间、领导者的主张与实际发生的情况之间也可能存在差距。
来源: The Verge


