由于 Deepfake 的担忧,OpenAI 关闭了 AI 视频应用 Sora

OpenAI 宣布将停止其病毒式人工智能视频应用 Sora,这引发了人们对 Deepfake 技术的担忧。该公司将提供有关保留用户创作的详细信息。
OpenAI 是流行的 ChatGPT 聊天机器人背后的人工智能研究公司,已决定关闭其 Sora 视频应用程序,该应用程序允许用户创建人工智能生成的视频。此举出台之际,人们越来越担心该应用程序的技术可能被滥用于深度伪造创作。
OpenAI 在一份声明中表示,它将“告别 Sora 应用程序”,并承诺很快分享更多有关用户如何保留他们在平台上创建的内容的信息。该应用程序于 2023 年 3 月推出测试版,因其能够根据几秒钟的输入片段生成高度逼真的人们说话和移动的视频而迅速走红。
虽然 Sora 背后的技术被广泛认为令人印象深刻,但它也向政策制定者、研究人员和公众敲响了关于滥用可能性的警钟。 Deepfake 视频利用人工智能将一个人的脸部或声音叠加到另一个人身上,越来越多地用于恶意目的,例如政治虚假信息和未经同意的色情内容。
OpenAI 将自己定位为负责任的人工智能开发领域的领导者,关闭 Sora 的决定表明该公司正在认真对待这些问题。该公司在声明中表示,将继续“以深思熟虑和谨慎的方式”探索开发人工智能视频技术的方法。
Sora 的关闭是人工智能技术快速发展所固有的挑战和权衡的最新例子。虽然这些工具在提高创造力、生产力和理解力方面具有巨大潜力,但它们也带来了必须谨慎管理的重大风险。随着人工智能行业的不断发展,像 OpenAI 这样的公司将受到密切关注,看看他们如何平衡创新与负责任的开发和部署。
来源: NPR

