谷歌尖端AI水印系统被破解了吗?

一名软件开发人员声称对 Google DeepMind 的 SynthID AI 水印系统进行了逆向工程,可能允许删除或手动插入 AI 生成的图像水印。
Google 尖端的AI 水印技术(称为SynthID)一直是技术界强烈关注和审查的主题。现在,一位用户名为 Aloshdenny 的软件开发人员声称对该系统进行了逆向工程,可能允许删除或手动插入人工智能生成的图像水印。
在详细的Medium post和开源 GitHub 项目中,Aloshdenny 概述了他们声称需要的流程只有 200 张 Gemini 生成的图像、信号处理和“太多的空闲时间”。据开发者称,一点杂草似乎也有帮助。
“没有神经网络。没有专有访问权限,”Aloshdenny 在 Medium 上表示。 “事实证明,如果您失业并且平均足够的“纯黑”人工智能生成图像,您可以对 SynthID 等水印系统进行逆向工程。”
但是,Google 对这一说法提出了异议,称开发人员的工作实际上并不代表对 SynthID 系统的真正逆转。这家科技巨头坚称,其人工智能水印技术在保护人工智能生成内容的来源方面仍然安全有效。
围绕 SynthID 逆向工程的争论凸显了 AI 创造者与那些寻求绕过或破坏其保护的人之间正在进行的军备竞赛。随着人工智能生成的内容的使用变得越来越普遍,对强大且安全的水印解决方案的需求只会继续增长。
虽然 Aloshdenny 的主张可能引起了关注,但 Google 关于 SynthID 系统仍然安全的主张将受到人工智能和网络安全社区的密切关注。如果这一潜在突破属实,可能会对人工智能生成内容的未来及其可信度产生深远的影响。
随着争论的继续,人工智能开发者和公众都必须对快速发展的人工智能水印格局以及保护人工智能生成内容完整性的持续努力保持了解和警惕。
来源: The Verge


