AI生成补丁成黑客攻击路线图,漏洞修复攻防差距持续拉大
FreeBuf
2026年11月17日 18:00
上海
去阅读
AI正在加速漏洞发现、重塑漏洞修复模式,但AI辅助生成的补丁往往存在缺陷,反而让攻击者开展变体分析的效率大幅提升。
Part01
AI补丁普遍存在缺陷
今年夏天,周下载量达100万次的开源JavaScript沙箱库vm2的维护者,先后修复了34个沙箱逃逸漏洞,其中19个补丁由Anthropic的Claude参与编写。数周后,一名安全研究人员将一款AI Agent指向其中一份安全公告,要求生成绕过该补丁的方法,AI Agent很快完成了任务。Rubrik首席产品安全工程师Shayaun Nejad在近期于旧金山举办的[un]prompted AI安全大会上发表演讲前,针对vm2的补丁开展了漏洞变体分析,希望说明开发团队处理AI批量发现漏洞时面临的挑战:尽管AI辅助流程已完成补丁编写,但后续新一轮测试中,相同漏洞往往会被再次发现。
他表示:\"有时漏洞变体会逃过检测,直到模型能力升级、能够开展更高程度的链式分析后,才会被发现。这些变体有时出现在完全相同的位置,有时是相邻位置的关联漏洞。变体分析相关案例近来不断出现,且高度依赖上下文信息。\"
Nejad提醒,随着AI辅助漏洞发现的普及,公开披露的CVE数量创下历史新高。软件开发商披露平台易受攻击的漏洞类型时,对应的补丁可能直接成为攻击者的\"蓝图\"。攻击者只需将代码库和历史漏洞信息作为上下文提供给AI Agent,就能指示其自动挖掘漏洞变体,整个过程非常简单。这背后是行业普遍存在的攻防不对称:AI模型的攻击能力已经非常出色,能够高效发现漏洞、编写利用代码,但编写安全代码、生成正确补丁等防御能力却相对滞后。
同样在[un]prompted大会上,OpenAI安全研究员Tim de Waal演示了AI Agent修补网络接入点固件漏洞的过程:针对第一个漏洞,AI Agent重建缺陷函数时移除了原代码的栈金丝雀保护,悄无声息删掉了一层防御;针对第二个漏洞,生成的补丁仅过滤了输入中的双引号,却忽略单引号即可绕过修复的问题。1Password旗下Off-by-1 Labs的大规模测试也得出了相似结论:研究人员使用AI Agent为复杂开源项目的6个已知漏洞反复生成补丁,6080个候选补丁中约半数仍存在至少一条攻击路径,AI Agent有时会遗漏代码其他位置的相同漏洞。
近期P2Patch基准测试设置了AI攻防对抗场景:一个AI Agent为101个真实漏洞编写利用代码,另一个负责修补代码直到利用失效,随后攻击方再次寻找绕过补丁的路径。结果显示,101个案例中有41个被成功攻破,部分补丁甚至被多次绕过。当然,人类编写的补丁也并非万无一失,安全公司Trail of Bits回顾数年来咨询评估中收到的2265个漏洞修复方案,发现八分之一的补丁未能完全解决上报问题。该公司记录的一个案例显示,一名人类维护者和一名参与Patch the Planet计划的AI Agent,分别为freenginx Web服务器的同一个内存安全漏洞编写补丁,结果两个补丁都会在请求清理阶段引发相同的崩溃。
Part02
漏洞数量爆发式增长
问题的核心并非AI生成的补丁质量始终低于人类——尽管AI补丁的失败率可能更高——而是当前漏洞发现速度过快,仅靠人力根本无法跟上。与此同时,AI Agent的攻击能力让攻击者能够以机器速度分析补丁、开展逆向分析,进一步拉大了攻防差距。
Anthropic推出基于Mythos的玻璃之翼计划(Project Glasswing)七个月后,其公开台账显示共发现37966个漏洞。漏洞情报公司VulnCheck近期的分析显示,已公开的7349个漏洞中,仅有217个得到修复。并非所有上报结果都是真实安全漏洞,但Anthropic声称其真阳性率达94.2%,结合极低的修复率,足以说明开源维护者需要研判处置的漏洞报告已经泛滥成灾。
Anthropic在玻璃之翼计划的首次更新中写道:\"过去软件安全的进展受限于漏洞发现速度,现在则受限于我们对AI发现的大量漏洞进行验证、披露和修复的速度。\"这一问题并非开源项目独有。美国银行在引入Anthropic的模型扫描自有系统后,今年第二季度在原有约3000名相关员工的基础上,额外招聘了1000名外部承包商协助补丁修复工作。该行首席执行官Brian Moynihan向CNBC透露,直到10月这些承包商仍在开展相关工作。
截至今年7月,Meta已有40%的高危漏洞由AI编写修复方案,其中近半数补丁未经修改直接上线。但Meta软件工程师David Molnar在[un]prompted大会的另一场演讲中提到,漏洞暴露时间并未因此下降。AI生成的补丁仍需人工审核,而新代码规模年同比增长超过100%,其中80%以上由AI编码Agent生成。
Molnar表示:\"所有人都被待审核的代码淹没了。\"他的团队已和内部主管、产品经理合作,探索更多可引入自动化的场景,包括审核流程,将模式从人在回路中转变为人在回路上。他谈道:\"如果只把AI上游的所有流程自动化,最终只会让下游负责审核的人员不堪重负。因此必须审视整个流程,实现全链路自动化。\"
事件响应与安全团队论坛(FIRST)今年6月曾预测,全年CVE编号分配量约为6.6万个。但距离年底还有两个月时,这一数字已经接近10万。仅今年10月的微软补丁星期二就修复了1415个漏洞,而2025年10月这一数字仅为180个。
Part03
闭源补丁难逃AI分析
有人认为,闭源软件的补丁通常存放在编译后的二进制文件中,AI Agent难以扫描代码库挖掘漏洞变体,因此安全性更高。但实际情况并非如此:当前AI模型已经具备极强的逆向工程能力,甚至有用户用其复现复杂专有产品的开源替代版本,比如Adobe Photoshop。
今年6月,Anthropic的研究人员测试了AI辅助补丁对比的攻击效果:仅向模型提供补丁发布当日的公开信息,模型就在火狐浏览器补丁上线后1小时内生成了可用的漏洞利用代码。在Windows平台上,研究人员向模型提供存在漏洞的二进制文件、修补后的二进制文件及反编译输出,AI仅用约2000美元/个的成本,就从21个内核漏洞中构建出8条完整的提权链路。
Anthropic的研究人员当时表示:\"从某种程度上说,Nday比0Day更危险,因为补丁本身就提供了通往漏洞的路线图。\"中国上海复旦大学的研究团队搭建了一款LLM辅助二进制差分分析框架,分析了25家厂商62款闭源应用的76个近期补丁。根据他们本月发布的论文,该框架标记出63个存在缺陷的补丁,经人工确认56个补丁不完整,其中26个可被绕过形成新漏洞,相关发现共获得19个CVE编号和28100美元漏洞赏金。
对比存在漏洞和修补后的版本定位代码变更,是安全研究人员多年来的常规操作。现在的变化是,AI让这项工作的速度大幅提升,且几乎不需要专业技能。尽管最新的前沿AI模型可能设置了API护栏,会提升逆向工程或二进制差分的难度,但开源权重模型已经具备足够的相关能力。
微软安全研究副总裁Taesoo Kim也在[un]prompted大会上提醒,AI已经大幅缩短了二进制差分分析和漏洞利用开发的时间,微软在发布CVE时必须格外谨慎,同时快速向客户推送更新。他表示,最新的前沿模型由于护栏更严格,已经开始拒绝这类二进制分析请求,但很多人转而使用Qwen、Kimi、GLM等开源模型,因为\"这些模型的能力极强\"。
Part04
补丁缺口利用门槛骤降
上个月,微软Edge安全团队警告称,攻击者越来越多地利用补丁缺口实施攻击:即漏洞相关信息出现在某项目的代码提交或测试版本中后,到补丁同步到所有下游相关项目之前的时间窗口。报告列举了攻击者利用Chromium构建版本中公布的安全修复实施攻击的案例——Chromium是开源浏览器项目,是谷歌Chrome、微软Edge等浏览器的基础,攻击者往往在下游浏览器集成修复前就完成漏洞利用。
Edge团队表示:\"这就是补丁缺口滥用。这种技术并不新鲜,但所需的时间和专业门槛正在发生变化。AI辅助分析和漏洞利用开发可以将过去数周的工作压缩到数小时,在暴露窗口仍然开放的阶段,可用漏洞利用代码出现的概率大幅提升。\"
Epoch AI的研究人员近期使用GLM 5.3模拟技术水平一般的攻击者,针对火狐浏览器的补丁缺口开展攻击。仅消耗约1000美元的API额度、每个目标花费12小时,就成功攻破了9月17日至10月26日之间发布的所有火狐版本。研究人员写道:\"我们没有触发任何服务商的安全防护或拒绝响应机制。\"为应对这一问题,Mozilla团队采取了多项措施防范补丁缺口滥用,包括不再发布与安全修复相关的回归测试。
火狐浏览器首席技术官Bobby Holley写道:\"我们发现,如果不提供回归测试,GLM 5.3利用补丁缺口的成功率会大幅下降,因此我们重新采取了回归测试保密机制,直到补丁正式发布后再公开。\"
安全公司Terra上月发布的PatchSlop报告显示,今年开源项目中不完整或存在缺陷的补丁数量增长了8倍。Terra的研究人员表示:\"如果补丁只拦截了上报的输入,会给人漏洞已修复的错觉,但底层代码中的问题依然存在。这种补丁相当于给攻击者提供了地图,既标注了存在漏洞的代码位置,也点明了防御方对漏洞的判断。查看补丁差异之外的其他编码方式、地址范围或函数入口路径,是成本最低的漏洞挖掘方式。目前攻击者越来越多的精力、以及消耗的AI token,都花在了这类分析上。\"
应对这一问题的方法不是让开源项目和软件企业隐藏漏洞细节、停止发布安全公告,而是产出质量更高的补丁。部分研究人员认为,即便使用AI Agent自动化打补丁,这一目标也可以实现。以Rubrik为例,该公司发现标记为已修复的漏洞反复出现后,Nejad的团队在修复流程中新增了自动变体排查环节,在补丁生成后自动运行。公司开始将简单漏洞交由AI修复,而身份认证绕过等复杂漏洞则留给人类工程师处理。他表示:\"攻击者确实掌握了补丁相关的上下文信息,但防御方能够更早获得这些信息,完全可以提前采取行动。\"
OpenAI在本月的一篇博客文章中提到,其Linux漏洞研究和修复流程需要迭代测试和变体分析,因为初始补丁\"未能检查相关代码中是否存在同一漏洞的其他变体,导致补丁不完整\"。OpenAI的研究人员表示:\"我们建议使用模型对人类和AI生成的补丁开展对抗性审查,这类审查可以识别补丁可被绕过、遗漏其他攻击路径或漏洞变体等问题。\"开源安全基金会(OpenSSF)发布的AI辅助补丁指引也建议团队\"使用新的探测Agent模拟攻击者测试补丁\",Trail of Bits发布了一款agent skill,要求补丁提交前必须针对漏洞根因测试至少一种不同的变体。
Terra首席执行官Shahar Peled告诉CSO Online:\"显然,漏洞修复工作需要更高的严谨性。这意味着要找到所有漏洞的根因,在整个代码库中排查类似问题,并重测系统确保补丁本身不会引入新的漏洞。\"
参考来源:
AI-written patches are becoming attack maps for hackers
https://www.csoonline.com/article/4248687/ai-written-patches-are-becoming-attack-maps-for-hackers.html
推荐阅读
电报讨论

版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。











评论