文章总结： 本文探讨了人工智能（AI）对网络安全领域的深远影响，核心观点是AI不仅提升了安全团队的工作效率，更从根本上重写了其工作方式和价值定义。文章分析了AI如何将安全检测从基于规则的识别推向基于上下文的意图理解，并指出AI本身也成为了需要被治理的新风险变量。此外，文章还讨论了在多Agent协同时代，安全团队需要管理整个智能执行链，并强调未来安全岗位的价值将更多体现在业务理解、方案设计与推动上，而非单纯的技术执行。 综合评分： 85 文章分类： AI安全,WEB安全,解决方案,技术标准,安全运营

---

AI 不是在给安全团队提效，是在重写安全团队的价值

原创

白帽子章华鹏 白帽子章华鹏

白帽子章华鹏

2026年6月18日 09:25 北京

在小说阅读器读本章

去阅读

写在前面

最近我们每周直播都在聊同一个主题：AI 和安全。

我每周会把近期全球范围内 AI 和安全相关的一些事件、动态、行业变化、争议问题拿出来，挑一些真正值得讨论、也对实际工作有参考价值的话题，和大家一起展开去聊。

上周直播，我和粉丝朋友们一起聊了几个具体的话题：

AI 时代怎么做入侵检测；

Anthropic 最近关于 AI 风险、监管和公共安全的一些观点；

多 Agent 协同时代的安全治理问题；

企业安全 BP 团队未来会怎么变；

我自己最近在做 AI 原生安全产品时的一些实践和体感；

这些话题看起来都是不同方向，但把它们放在一起看，会发现它们其实都在说同一件事：今天 AI 对安全的影响，早就不是“又出了一个新模型”、“又多了一个新工具”这么简单。它正在开始重写企业安全的工作方式，甚至重新定义安全团队在企业里的价值。

就像我们过去在安全建设中默认成立的很多前提，现在也都在被重写。然而很多安全团队，嘴上在聊 AI，手上也在尝试 AI 工具，但脑子里用的还是过去那套安全建设逻辑，这才是最麻烦的地方。

所以基于上周直播提到的几个话题，我们聊一个现实问题：当 AI 开始参与检测、判断、执行和协同之后，安全团队到底还靠什么创造价值？

01 AI 正在把安全检测，从“规则识别”推向“意图识别”

直播一开始，有朋友问了一个很典型的问题：AI 时代，怎么做入侵检测？

这个问题很值得聊。

因为它背后不是“能不能把大模型接进来”这么简单，而是你怎么看待检测这件事本身。

过去很长时间里，很多检测思路本质上还是规则、特征和策略。

这套方法今天仍然有价值，未来也不会消失。因为安全里有大量高确定性的异常，确实应该用规则、特征、基线和策略快速筛出来。它们稳定、可解释，也适合工程化落地。

但它有一个很明显的边界：它更擅长识别“像不像异常”，但不一定擅长去理解“这个行为到底想干什么”。

而 AI 带来的一个重要变化，就是它开始具备更强的语义理解能力、上下文理解能力和行为意图分析能力。

举个简单例子：

过去我们看到一个账号在短时间内访问多个内部系统，可能会写规则判断它是否异常：

访问频率是否过高？

是否来自陌生地域？

是否访问了平时不常用的系统？

但在真实攻击里，更关键的问题往往不是“它访问次数多不多”，而是：

这个账号是不是在围绕某个敏感目标做探索？

它访问的几个系统之间有没有业务关系？

它是不是先查组织架构，再查代码仓库，再查凭据管理系统？

它的行为更像一次正常运维，还是像一次横向移动？

它后续有没有尝试接近更高价值的数据或权限？

这类判断，已经不是单条规则能完成的。它需要把账号、设备、行为、日志、业务系统、权限关系、历史上下文放在一起看。

这就是 AI 可能带来的变化。

换句话说，AI 时代做检测，你不一定要再像过去那样，先穷尽式地去列规则。你可以先识别出可疑对象、异常行为链，再把这个对象相关的上下文、行为标识、日志线索交给 AI，让它自己去调用工具、关联信息、还原上下文、判断意图。

这件事的意义非常大，因为它意味着检测逻辑开始从“规则匹配”，往“行为理解”迁移。

这不是一个小优化，这是检测范式本身在变，AI开始参与检测判断本身。

当然，这也并不是说传统方法没价值了。

我反而觉得未来很长时间，最现实的做法一定还是两种模式结合：规则负责筛选出高确定性的异常，AI 负责进一步做上下文理解、行为还原和意图判断。

这背后对应的，是安全团队价值的变化。

过去，一个安全团队的检测能力，可能体现在写了多少规则、接了多少日志、覆盖了多少告警场景。

但 AI 时代，安全团队的价值会越来越体现在：能不能设计一套让机器看见异常、让 AI 理解上下文、让人类把控关键判断的检测体系，让规则、上下文、AI 判断和人工确认协同起来。

这比单纯写更多规则更难，也更有价值。

02AI 不只是提效工具，也正在成为新的风险变量

然而当 AI 一旦开始真正参与检测、判断、执行和协同，它本身也会成为新的风险变量。

这一点，过去一周其实也有很多公开讨论。比如 Anthropic 最近在持续谈 AI 风险、监管和公共安全问题。再比如，一些带有安全限制能力的模型，很快会暴露出越狱、绕过和滥用的风险。

这些事情说明什么？说明今天AI 不只是一个“提效工具”，它同时也是一个会带来新型不确定性的系统。而且这种不确定性，不是简单靠几条规则就能兜住的。

因为 AI 的问题，不只是“会不会错”，而是“它什么时候错”、“在什么上下文里错”、“为什么会错”、“错了之后会不会继续自动执行下去”。

尤其在安全场景里，这件事会更敏感。很多非安全场景里，结果波动一点，可能只是体验问题。但安全场景里，很多错误不是体验波动，而是真风险。

所以当 AI 进入工作的关键链路，安全团队就不能只把它当作提效工具，还必须把它当作治理对象。

这也意味着，安全团队要开始回答一些过去不太常被问的问题：

AI 系统能访问哪些数据？

它能调用哪些工具？

哪些动作必须人工确认？

它的输入是否可信？

它的输出如何验证？

它的判断过程是否可审计？

它失败时如何降级？

它出错后谁负责、怎么回滚？

这些问题，已经不是传统“上一个 AI 工具”能解决的。

它需要安全团队把 AI 纳入身份、权限、审计、监控、变更、风控和应急体系里。

过去安全团队主要治理 人、系统、应用、数据、账号、权限、供应链；现在还要治理 AI，这就是职责边界的一次扩大。

所以，AI 对安全团队的影响不是简单增强能力，它同时也扩大了安全团队要治理的对象边界。

03多 Agent 协同时代，安全要管的是整条执行链

我们今天对于单 Agent 的安全治理，其实都还远远谈不上成熟，那多 Agent 协同之后只会更复杂。

最近还有一个越来越明显的趋势，就是 Agent 的使用开始爆炸式增长。

不管是企业内部，还是个人用户，越来越多的任务正在被交给 Agent 去完成。

一个 Agent 负责理解需求，一个 Agent 负责拆解任务，一个 Agent 负责查资料，一个 Agent 负责调用工具，一个 Agent 负责生成结果，一个 Agent 负责检查输出。

从效率角度看，这很自然。复杂任务本来就需要拆解，多 Agent 协作也更接近真实组织里的分工方式。

但从安全角度看，这会带来一类新的问题：风险不再只发生在某一个 Agent 身上，而会发生在多个 Agent、多个工具、多个上下文之间的链路里。

这也是多 Agent 安全最麻烦的地方。

单 Agent 出问题，还比较容易追链路、看上下文、找原因。

但一旦变成多 Agent 协同执行任务，系统的不确定性会被进一步放大：

任务是怎么被拆解的？

上下文是怎么被传递的？

哪个 Agent 调了什么工具？

谁在什么阶段做了什么判断？

哪些决策是可信的，哪些决策是漂移的？

这些事情，都会变得更难分析。

所以现在也能看到，不管是学术界还是工业界，越来越多人都在研究多 Agent 的安全问题。

所以多 Agent 时代，安全团队要管的不只是“某个 Agent 是否安全”，而是整条执行链是否可控。

这会对安全治理提出新的要求：

任务拆解要有边界；

上下文传递要有过滤；

工具调用要有最小权限；

高风险动作要有人类确认；

每个 Agent 的关键判断要有日志；

关键链路要能审计、回放和回滚；

外部输入和内部指令要明确隔离；

不同 Agent 之间的信任关系要被设计，而不是默认成立。

这一点我自己感受也很深。

因为我们最近自己在做 AI 原生安全产品的时候，也一直在面对一个核心问题：当任务链条越来越复杂、提示体系越来越长、上下文越来越深的时候，AI 在执行过程中一定会出现不确定性。

这时候你怎么用更工程化的方式去约束这种不确定性，怎么让它既保持能力、又不会失控，这其实是一个非常难、也非常现实的问题。

这也是我为什么一直觉得，Agent 安全这件事，即使大家普遍知道它重要，但整个行业还处在非常早期的阶段。

不是没有人在做，而是离“成熟解决”还很远。

而且这里有一个很容易被低估的点：很多人会天然觉得，AI 这么强了，那 AI 去保护 AI，不就行了吗？

但真到落地层面，你会发现这里面有大量的不确定性、误判、上下文丢失、执行漂移和边界失控的问题。所以越是在早期，越不能把它想简单。

因此在多 Agent 时代，安全团队真正要建设的，不是某一个 Agent 的安全能力，而是对整条智能执行链的治理能力。

04很多安全岗位未来不会消失，但会被重新定义

AI 时代，安全团队内部的岗位价值也一定会发生变化。

直播里有朋友问到一个特别现实的话题：企业安全 BP 团队未来会怎么变？

这个问题，本质上其实不只是 BP 的问题。而是说：AI 时代，企业里那些本来承担连接、协调、传达、推动作用的安全岗位，未来会不会被替代？

我的观点很明确：会不会被替代，不取决于岗位名字，取决于你在做什么。

如果你做的是非常机械的传递工作，比如：业务提一个需求，你转给安全；安全提一个能力，你转给业务。那这种工作被 AI 替代，我觉得是早晚的事情。因为这种连接，本质上没有形成真正的判断和方法论。

但如果你做的不是“传话”，而是真正理解业务战略目标、拆解业务风险、设计安全方案、推动价值落地，那这类岗位不但不会消失，反而会变得更重要。

这也是为什么我在直播里讲：未来优秀的安全 BP，不应该只是执行者。而应该更像业务的 CSO，或者更像一个解决方案专家。

他最重要的能力，不是把一个安全策略推下去，而是能够真正理解：

业务的目标是什么？

风险在哪里？

哪些资产和流程最关键？

哪些控制是必须的？

哪些控制会造成过高摩擦？

安全应该怎么嵌进去，才能真正帮业务创造价值？

这一点，我觉得在 AI 时代会变得更重要。

因为纯执行的部分，AI一定会越做越多。但基于业务理解做判断、做取舍、做设计、做推动的能力，短期内很难被替代，反而会变得稀缺。

05 安全团队的价值，会从“提供工具”转向“解决业务风险”

再往上看一层，AI 带来的变化不只影响某个岗位，也会影响整个安全团队的定位。

今天很多人还在把安全理解成一个技术问题。技术当然很重要，没有技术，很多问题根本解决不了。

但我越来越觉得，至少在企业场景里，安全本质上是一个管理问题、业务问题、组织问题。

如果你只有技术，而没有方法论、没有业务理解、没有组织能力，最后就很容易陷入一个状态：你拿着一把锤子，到处找钉子。

你觉得这个工具很强、这个能力很牛、这个模型很先进。

但最后它为什么进不了企业流程、为什么落不了地、为什么老板不买单、为什么业务不配合，你解释不清楚。

AI 会进一步放大这个差异，因为AI 会让“生产能力”变得更便宜：写规则更快，写脚本更快，写报告更快，做自动化更快，生成代码更快，分析日志也更快。

但这并不意味着安全团队的价值降低了，恰恰相反，真正稀缺的东西会更清楚地浮出来。

未来更有价值的，不只是“会不会做一个工具”，而是：能不能把工具、模型、流程、权限、数据、人员和业务目标组织在一起，形成一套真正解决问题的安全方案。

所以我现在越来越不认同一种说法：说以后代码不值钱了，软件不值钱了。

我觉得这句话只说对了一半，更准确一点的说法是：写软件的门槛和成本，在下降；但怎么设计软件、怎么组织软件、怎么把软件真正嵌进业务流程、怎么让它解决真实问题，这件事反而更值钱了。

安全也是一样。未来真正稀缺的，不只是会不会写规则、会不会调模型、会不会做自动化。

而是你能不能把这些能力组织起来，变成一个业务愿意使用、管理层愿意投入、风险能被降低、真正解决业务问题的方案。

说到底，安全团队接下来拼的，不只是技术栈更新速度，而是谁更早完成一次角色升级，从“做安全工具的人”，变成“用安全能力帮业务解决问题的人”。

我自己的一个判断

AI 正在快速重写企业安全的工作方式。

安全团队真正要升级的，不只是工具栈。更关键的是三种能力：

第一，对行为和意图的理解能力；

第二，对 AI 本身不确定性的治理能力；

第三，把安全能力和业务目标重新连接起来的方法论能力；

这三件事，不是简单“上一个 AI 工具”就能解决的。

所以，如果你今天在企业里做安全，不管你是做平台、做研发、做 BP、做治理、做产品，还是在带团队，我都特别建议你开始认真想一个问题：在 AI 时代，我真正不可替代的那部分能力，到底是什么？

如果这个问题你还没开始想，那后面很多焦虑都会越来越具体。

但如果这个问题你已经开始认真想了，那我觉得你至少已经在往对的方向走。

这也是为什么我们现在每周在持续聊“AI 和安全”。

因为这个话题，早就不是追“热点”了。

它已经变成了每一个安全团队、每一个安全从业者、甚至每一个企业管理者，都绕不过去的现实问题。

这个问题，每一个安全团队迟早都要回答。

写在最后

如果你最近也在思考这些问题，或者你已经在公司里开始推进一些 AI 相关的安全实践，但也碰到了很多很现实的问题，欢迎点击下方卡片预约直播，周日（6月21日）晚19:30，一起来直播间聊聊。

也欢迎大家把想讨论的问题留言给我，一个好问题才会有一个好答案。

---

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：白帽子章华鹏 白帽子章华鹏 白帽子章华鹏《AI 不是在给安全团队提效，是在重写安全团队的价值》