Mozilla 的 AI 发现 271 个 Firefox 漏洞,误报率极低

Mozilla 揭示了 Anthropic 的 Mythos AI 模型如何在短短两个月内发现 271 个 Firefox 漏洞,几乎没有误报,从而改变了安全测试。
当 Mozilla 首席技术官上个月宣布人工智能辅助漏洞检测已经达到突破性时刻,并宣称“零日已经屈指可数”和“捍卫者终于有机会取得决定性胜利”时,科技界的反应充其量是褒贬不一。怀疑论者很快指出了熟悉的叙述:展示人工智能取得的一些令人眼花缭乱的成果,方便地忽略技术的复杂性和局限性,并让宣传机器产生广泛的热情。在快速发展的人工智能安全应用领域,这种模式已经变得非常普遍。
了解围绕过度炒作的人工智能公告的合理担忧,Mozilla 周四采取了不同的方法,公开了其与 Anthropic 的Mythos 漏洞检测模型的突破性合作关系。该公司发布了详细的文档,解释了如何在两个月的测试期内成功识别和分类 271 个先前未知的 Firefox 安全漏洞。在 Mozilla Hacks 博客上发表的一篇综合技术文章中,负责该项目的工程团队概述了实现这一成就的关键因素,并强调这一突破是通过两个关键组成部分实现的:底层 AI 模型本身的重大改进,以及开发专门的定制“工具”,使 Mythos 能够有效地分析和解释庞大的 Firefox 源代码存储库。
事实证明,定制工具在该项目的成功中发挥了重要作用,充当了复杂的 AI 模型和复杂的 Firefox 代码库之间的桥梁。 Mozilla 工程师不是简单地将原始代码输入人工智能并希望得到有用的结果,而是设计了一个复杂的系统,可以将代码分析置于上下文中,为模型提供相关背景信息,并以人类安全研究人员可以立即采取行动的方式构建输出。这项技术创新代表着在使人工智能驱动的安全分析在现实企业环境中实用且可靠方面取得了重大飞跃。
来源: Ars Technica


