文章总结： 本文是AI时代安全攻防演进系列终章，分析AI对企业、安全人员及行业的影响。企业需重写安全流程以应对更高频的问题发现，否则AI可能成为管理负担。安全人员角色从执行者转向指挥者，问题定义与结果验证能力成为核心。行业竞争将围绕工具生态、标准化接口和评测体系展开。结论是AI重排了安全任务成本结构，但知识深度仍是决定攻防质量的关键。 综合评分： 85 文章分类： 红队,渗透测试,内网渗透,安全运营,安全意识

AI时代下对安全攻防演进的思考（下篇）

漏洞战争

2026年7月9日 18:02 广东

在小说阅读器读本章

去阅读

以下文章来源于华为安全应急响应中心 ，作者riusksk

华为安全应急响应中心 .

华为安全应急响应中心（HUAWEI PSIRT）官方公众号。

引言

     上篇与中篇分别探讨了AI赋能安全攻防的现状及其在三大核心领域引发的结构性变化。本篇作为系列终章，将深入分析这一变革对企业运营、个人发展及行业生态带来的深远影响，并展望未来的攻防重心。

影响分析

1、对企业意味着什么：比工具升级更难的是流程重写

对企业而言，最直接的变化并不是“是否采购大模型”，而是“现有安全流程能否承受更高频、更大规模的问题发现能力”。如果说过去很多企业面对安全工具时，主要解决的是“要不要多上一套扫描、审计或渗透能力”，那么在 AI 进入攻防链条之后，难的部分已经不再是工具采购，而是流程重写。模型可以更快发现问题，却不会自动替企业完成定级、复现、修复、回归、审批和审计。发现能力一旦扩张，而后续流程没有同步升级，企业得到的往往不是更强的防御，而是更密集的告警、更多相互竞争的优先级，以及更容易失控的修复节奏。

因此，企业首先被迫改变的，将是漏洞响应机制。高危问题的确认、责任归属、修复窗口、变更验证和上线回归，都需要比过去更快地闭环。第二个必须前置的能力，是验证能力。未来企业安全团队的重要职责，不再只是亲手把问题找出来，而是能够迅速判断 AI 报告是否正确、影响范围有多大、应当由谁处理、是否需要阻断发布或扩大排查。第三个变化是授权与审计边界必须更细。只要 Agent 开始参与测试、代码修改、补丁生成甚至自动执行任务，工具权限、日志留痕、审批节点和回滚机制就不能继续停留在粗放状态。

这类约束在大型企业中具有普遍性。对于组织规模大、研发链路长、信息安全要求高的企业而言，外部顶尖闭源模型并不总能直接接入真实研发与安全流程；即便企业选择自建或微调开源模型，也往往还要同时解决私域知识接入、权限控制、推理成本、公司级算力供给、内网隔离和跨团队协作接口改造等问题。大企业船大难调头，难的通常不是单个模型效果，而是整套研发与安全流程是否愿意、也是否有能力围绕新工具重新组织。企业真正需要准备的不是“接入 AI”，而是“接住 AI”。流程是否重写，将直接决定 AI 对企业来说究竟是防御增益，还是新的管理负担。如果后续 triage、修复、回归和审计跟不上，再强的问题发现能力最终都可能变成另一种形式的噪音生产线。

2、对安全人员的影响

对安全人员而言，中低端、重复型、模式化工作被压缩几乎已成定局。单纯依赖熟练使用少量工具、背诵常见 payload、重复执行既定流程所形成的比较优势，会变得越来越薄。与此同时，人的高价值能力并没有消失，反而更集中在四个方面：

• 理解复杂系统与真实业务约束；
• 组织上下文、多种工具协同、工作流编排；
• 验证与反驳 AI 生成的结果；
• 在披露、修补和治理中承担责任。

从近年的实战与竞赛反馈看，AI 对安全行业带来的并不是简单的“平权”或“替代”，而更像是“低门槛、高天花板”。一方面，入门门槛确实下降了。零基础或低经验参与者可以在 AI 辅助下更快搭建 agent、理解基本攻击链条、完成以赛促学的第一轮成长。另一方面，真正的差距并没有消失，而是被重新定义并进一步放大。谁能更准确地拆解任务、设计 agent 架构、选择工具组合、控制 token 成本、处理错误恢复和长链路调度，谁就更容易把 AI 变成稳定生产力。这也是为什么安全人员的角色正在从“执行者”转向“指挥者”：未来更有价值的，不是亲手完成每一步重复操作的人，而是能够定义问题、拆解目标、调度 AI 与工具并对最终结果负责的人。

如果把这一变化再往深处看，会发现模型能力本身始终有上限，而知识没有上限。模型可以随着参数、工具和训练不断增强，但它在某个时刻能够稳定处理的问题范围、上下文容量和推理质量，仍然受制于架构、成本和工程条件；相比之下，领域知识、实战经验、案例积累、系统理解和技术审美，并不存在同样明确的天花板。也正因为如此，AI 时代对人类真正稀缺的不是单纯“谁先拿到一个更强模型”，还考验谁拥有更深的领域知识，谁能把长期沉淀的专家经验转化成更好的问题定义、更合理的约束设计和更可靠的验证路径。模型是杠杆，但知识深度才是支点。

更进一步说，问题的定义能力与结果的验证能力，正在从安全岗位的专业要求，变成 AI 时代每个人都应具备的基础能力。近一年的公开事件已经说明，如果使用者不能清晰定义问题、约束模型输出并亲自验证结果，AI 往往不会把高质量能力普及给更多人，反而会把低质量内容更快地批量制造出来。2026 年 2 月，Node.js 官方宣布将HackerOne 提交门槛提高到 Signal 1.0（高质量漏洞报告），理由是安全团队经历了因使用AI生成导致显著增加的低质量报告[21]。HackerOne 在官方行为准则中进一步明确要求 human-in-the-loop，强调研究者必须对 AI 生成内容负责，并禁止大规模提交 low-signal、未经验证或缺乏 PoC 的报告[22]。2026 年 1 月，curl 项目则更进一步，直接结束 bug bounty，并公开将“AI slop reports”列为关键原因之一，同时指出其 2025 年确认有效漏洞的比例已跌破 5%[23]。这些事件背后暴露的不是单纯的社区管理问题，而是一个更普遍的现实：如果不会定义问题、不会验证结果，AI 只会放大噪音，而不会稳定放大能力。

因此，未来更值钱的安全人员，不是“最会操作工具”的人，而是能够在 AI、代码、业务、架构与风险之间做出可靠判断的人。模型会普及一些过去需要经验积累才能获得的能力，但也会把真正难的部分抬得更高。问题定义与结果验证，正是其中最基础、也最不可外包给模型的两项能力。

3、对行业发展的影响

对行业而言，三到五年内最显著的变化可能有三点。第一，围绕 Web 渗透、代码审计、AI 应用安全评估的产品化竞争会明显加速，基础服务将被重新定价。第二，Pwn 方向会继续沿“自动发现加速、自动利用谨慎推进”的路径发展，自动 triage、自动patching 和 memory-safe 迁移支持会变得更重要。第三，逆向工程将从效率提升进一步走向“混淆保护对抗AI自动化分析”的新型竞争。

与此同时，工具本身的价值结构也会发生变化。传统意义上“为人直接操作”而设计的大量胶水型脚本和弱封装工具，会逐步被更高层的 agent 编排吸收；真正长期值钱的，将是那些能够提供确定性执行、稳定发包、标准接口、底层协议处理和可靠基础能力的工具组件。换句话说，工具不再只是“给人用”，而会越来越多地变成“给 AI 调用”。这也解释了为什么原子化能力、标准化接口、面向函数调用和 MCP 等协议的设计，以及工程化兜底机制，会在 AI 时代变得比过去更重要。AI 负责不确定性探索，工具负责确定性执行，二者的边界越清晰，系统整体越可控。

因此，行业竞争最终不会只体现在“谁的模型更强”，还会体现在“谁的工具生态更适合被模型调用”“谁能把幻觉和不稳定性压到工程可接受范围内”“谁能形成从模型到接口、从接口到流程的标准化闭环”。Cybench、BountyBench这类评测框架的重要性也会持续提升，因为行业越来越需要把厂商叙事、竞赛成绩与现实部署能力区分开来。没有统一或至少可对照的评测体系，企业很难判断哪些是演示，哪些是能力；哪些是一次性样板，哪些是真正可以稳定纳入流程的工程对象[18] [19]。

结论

放到今天看，AI 对安全攻防的影响已经越过“辅助工具”阶段，但还远没到“全面替代”阶段。更接近事实的说法是，AI 正在重排安全任务的成本结构，也在重排漏洞发现、漏洞利用、逆向分析和安全治理中的稀缺能力分布。Web 安全会更快走向基础问题工业化，Pwn 会更明显地分化出“前段自动化、后段高门槛”，逆向工程则会进入自动分析与抗分析保护互相抬升的新阶段。

问题也不是“要不要让 AI 参与安全工作”，而是“当 AI 已经开始参与安全工作时，企业、安全人员与行业有没有完成相应的重构”。对企业来说，关键在于流程、权限、审计与补丁治理；对安全人员来说，关键在于理解、验证、编排与责任能力；对行业来说，关键在于建立更成熟的评测、披露与治理基础设施。

如果把全文进一步收束到一条更底层的判断，那么 AI 时代真正普遍化的，不应只是“人人都能调用更强工具”，而应是 “人人都必须学会更清楚地定义问题、更严格地设置约束、更认真地验证结果”。模型降低了执行门槛，却没有取消问题定义的成本，也没有替人承担结果验证的责任。无论是企业流程重写、漏洞赏金报告质量失控，还是逆向和利用分析中的误判累积，最后暴露出来的都不是同一个模型够不够强，而是使用者是否具备把任务说清楚、把结果查明白的能力。

还要看到，模型能力始终有上限，知识却没有上限。模型可以更新，可以更强，但它并不会自动替代领域专家长期积累下来的经验知识。真正决定攻防质量的，仍然是对系统、业务、漏洞成因、利用条件、防守约束和历史案例的深度理解。模型越强，这种知识的重要性反而越高，因为模型只能放大已有知识结构，无法凭空替代知识本身。谁拥有更深的领域理解，谁就更能把 AI 变成生产力；谁缺少知识支撑，谁就更容易把 AI 变成看似高效、实则失真的噪音放大器。

如果借用历史经验来概括这一变化，那么 AI 之于安全攻防，或许并不只是一次更高效的工具升级，而更像一次迫使规则、基础设施与职业分工重新调整的系统性拐点。下一轮攻防门槛最终会由谁决定，不在于谁最早喊出“AI 安全”，而在于谁最早完成了从工具能力到组织能力的整套迁移。

参考文献

1. Google Project Zero，Project Naptime: Evaluating      Offensive Security Capabilities of Large Language Models，2024-06-20。https://projectzero.google/2024/06/project-naptime.html
2. Google Project Zero，From Naptime to Big Sleep: Using      Large Language Models To Catch Vulnerabilities In Real-World Code，2024-11-01。https://projectzero.google/2024/10/from-naptime-to-big-sleep.html
3. Google，A summer of security: empowering cyber defenders      with AI，2025-07-15。https://blog.google/innovation-and-ai/technology/safety-security/cybersecurity-updates-summer-2025/
4. Anthropic，Project Glasswing: Securing critical software for      the AI era，2026-04-07。https://www.anthropic.com/glasswing
5. Anthropic Frontier Red Team，Claude Mythos Preview，2026-04-07。https://red.anthropic.com/2026/mythos-preview/
6. U.S. Bureau of Labor Statistics，Occupational changes during the      20th century，2006-03。https://www.bls.gov/opub/mlr/2006/article/occupational-changes-during-the-20th-century.htm
7. Federal Highway Administration，The Evolution of MUTCD。https://mutcd.fhwa.dot.gov/kno-history.htm
8. 腾讯云黑客松官网；腾讯云开发者社区《400+极客菁英共聚羊城，见证国内首个AI智能渗透挑战赛》。https://tch.cloud.tencent.com/ ；https://cloud.tencent.com/developer/article/2651925
9. Defense Advanced Research Projects      Agency (DARPA)，AIxCC:      AI Cyber Challenge；AI Cyber Challenge marks      pivotal inflection point for cyber defense。https://www.darpa.mil/research/programs/ai-cyber ；https://www.darpa.mil/news/2025/aixcc-results
10. Defense Advanced Research Projects      Agency (DARPA)，Cyber      Grand Challenge (CGC)。https://www.darpa.mil/research/programs/cyber-grand-challenge
11. Anthropic Frontier Red Team，Claude is competitive with humans      in (some) cyber competitions，2025-08-09。https://red.anthropic.com/2025/cyber-competitions/
12. National Institute of Standards and      Technology (NIST)，Artificial      Intelligence Risk Management Framework: Generative Artificial Intelligence      Profile，2024-07-26。https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
13. Open Worldwide Application Security      Project (OWASP) GenAI Security Project，OWASP Top 10 for LLM is now the GenAI Security      Project and promoted to OWASP Flagship status，2025-03-26。https://genai.owasp.org/2025/03/26/project-owasp-promotes-genai-security-project-to-flagship-status/
14. Anthropic Frontier Red Team，Partnering with Mozilla to      improve Firefox’s security，2026-03-06。https://red.anthropic.com/2026/firefox/
15. Hanzhuo Tan, Qi Luo, Jing Li, Yuqun      Zhang，LLM4Decompile:      Decompiling Binary Code with Large Language Models，EMNLP 2024。https://aclanthology.org/2024.emnlp-main.203/
16. Anton Tkachenko, Dmitrij Suskevic,      Benjamin Adolphi，Deconstructing      Obfuscation: A four-dimensional framework for evaluating Large Language      Models assembly code deobfuscation capabilities，2025。https://arxiv.org/abs/2505.19887
17. Abraham Clements et al.，Towards LLM-Resistant Software      Protection: Agent Failure Patterns in CTF Reverse Engineering，NDSS BAR 2026。https://www.ndss-symposium.org/ndss-paper/auto-draft-657/
18. Cybench: A Framework for Evaluating      Cybersecurity Capabilities and Risks of Language Models。https://cybench.github.io/
19. BountyBench: Dollar Impact of AI Agent      Attackers and Defenders on Real-World Cybersecurity Systems。https://bountybench.github.io/
20. Anthropic，Coordinated vulnerability disclosure for      Claude-discovered vulnerabilities，最后更新于 2026-03-06。https://www.anthropic.com/coordinated-vulnerability-disclosure
21. Node.js Project，New HackerOne Signal Requirement      for Vulnerability Reports，最后更新于 2026-02-19。https://nodejs.org/en/blog/announcements/hackerone-signal-requirement
22. HackerOne，Code of Conduct。https://www.hackerone.com/policies/code-of-conduct
23. Daniel Stenberg，The end of the curl bug-bounty，2026-01-26。https://daniel.haxx.se/blog/2026/01/26/the-end-of-the-curl-bug-bounty/
24. 前沿观察 赛事纪实：从腾讯云黑客松，洞见智能体时代的攻防新格局，2026-04-17。https://mp.weixin.qq.com/s/f94uaYgqiSSx-3Vz0kP4_Q
25. U.S. Bureau of Labor Statistics，Changes in the U.S. occupational      mix from 1860 to 2015，2019-08。https://www.bls.gov/opub/mlr/2019/beyond-bls/changes-in-the-us-occupational-mix-from-1860-to-2015.htm
26. Martin Fiszbein, Jeanne Lafortune, Ethan      G. Lewis, José Tessada，Powering Up Productivity: The Effects of Electrification on      U.S. Manufacturing，National Bureau of Economic      Research (NBER) Working Paper 28076，2020；2024-04 修订。https://www.nber.org/papers/w28076
27. James Bessen，Toil and Technology，International Monetary Fund (IMF) Finance & Development，2015-03。https://www.imf.org/external/pubs/ft/fandd/2015/03/bessen.htm
28. Timothy F. Bresnahan, Manuel Trajtenberg，General Purpose Technologies      “Engines of Growth?”，National Bureau of      Economic Research (NBER) Working Paper 4148，1992-08。https://www.nber.org/papers/w4148

本公众号发布、转载的文章所涉及的技术、思路、工具仅供学习交流，任何人不得将其用于非法用途及盈利等目的，否则后果自行承担！

点这里 关注我们，一键三连～

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：漏洞战争 《AI时代下对安全攻防演进的思考（下篇）》