文章总结： 文档强调AI时代研究能力、问题定义和反馈系统的重要性，认为安全AIagent应围绕真实业务目标理解上下文，而非简单包装旧工具。建议升级信息源、写作记录、快速反馈迭代。最后指出安全人需培养研究变化和定义问题的能力。 综合评分： 81 文章分类： ai安全,安全意识,安全建设,实战经验

---

AI 时代最稀缺的能力之一是把问题研究透

章华鹏 章华鹏

白帽子章华鹏

2026年7月10日 09:44 河北

在小说阅读器读本章

去阅读

写在前面

最近这段时间，我基本上把大量精力都放在去做安全 AI Agent 产品上。

我们做了一个很小范围的公测，也邀请了一些朋友来试用。

这个过程中，我越来越强烈地感受到一件事：做安全 AI Agent，绝不是把过去的安全产品重新包一层 AI 外壳。

如果最后只是重新造一遍已有工具，那价值并不大。问题在于：

安全 AI Agent 到底应该解决什么？

它和过去的安全产品相比，差异在哪里？

它和 Codex、Claude Code 这类通用 AI 工具相比，壁垒又在哪里？

这些问题不是靠多加几个功能就能回答的。

它更像是一项研究工作：你要先选对问题，理解真实场景，持续拿到反馈，再一轮一轮把判断校准。

我最近反复在想的，就是过去很多安全产品一直没能很好解决的几个点：

安全能力怎么更好地理解业务？

怎么主动发现对业务有价值的风险？

怎么在发现风险之后，更快地帮助用户处理掉？

怎么让安全能力从少数安全专家的经验里走出来，让更多人都能低成本地处理自己面对的安全问题？

这些问题看起来很朴素，但越往里做，越会发现它们并不简单。它们已经超出了单纯技术执行的范围，需要把业务、目标、风险、组织和工具放在一起看。

所以我想借着最近看到的一些内容，聊一个更靠近根上的话题：AI 时代，个人、组织和安全行业，到底应该怎么做研究，怎么定义问题，怎么建立自己的反馈系统？

一个好问题，往往比一个好答案更重要

前段时间，我看到一篇关于“如何成为优秀研究员”的文章，里面第一个观点就很打动我：研究员最重要的工作，是独立挑选一个值得研究的问题。

这句话放在今天，其实特别重要。

因为 AI 出来以后，答案变得越来越容易获得。你随便把一个问题丢给 AI，它都能生成一套看起来很完整的方案、总结、框架，甚至还能帮你写 PPT、写代码、写文章。

但问题本身是不是问对了？目标是不是清楚？值不值得做？是不是你要解决的关键问题？反馈是不是足够快？这些会变得越来越重要。

因为这些事，AI 不会替你负责。

我自己在做安全 AI Agent 产品的过程中，也一直在反复问：

安全领域的 Agent 到底有没有价值？

它为什么不能只是通用 AI 工具在安全场景里的简单应用？

我的判断是，安全领域的 AI Agent 值得做。

原因并不复杂。安全工作里面有大量和业务、上下文、目标强相关的判断。一个通用工具能帮你完成很多局部任务，但它天然不理解你的业务目标、风险优先级、组织环境和处置路径。

所以我们要研究的，不能停留在“让 AI 会干更多安全任务”。更关键的是，让它围绕一个真实业务目标，理解上下文，发现有价值的风险，并推动问题被解决。

问题如果选对了，后面所有能力建设才有方向。

信息源不升级，认知很难升级

那怎么才能提出更好的问题？

很重要的一点，是升级自己的信息源。

过去很多岗位的工作方式其实很固定：

写代码的主要看需求；

安全工程师主要看漏洞和规则；

产品经理看客户反馈；

售前看方案；

销售看客户关系；

每个人的信息来源都被岗位天然框住了。

这种工作方式在过去可以运转，但放到 AI 时代，会慢慢遇到一个问题：你想理解业务、理解用户、理解需求，不能只依赖别人过滤之后再转述给你的信息。

销售告诉你客户有什么需求，售前告诉你客户有什么痛点，产品文档告诉你要做什么功能，这些当然都有价值。但它们已经经过了一层甚至多层过滤。

高质量的信息，很多时候藏在原始场景里。

你要去见客户，去和行业里的专家交流，去听用户怎么描述自己的问题。

你也可以大量使用 AI，让它从你过去不熟悉的角度向你提问，帮你打开信息边界。

如果信息源一直停留在原来的圈子里，认知很难有明显变化。

所以我最近越来越觉得，AI 时代每个人都要多问自己一个问题：我现在看到的信息，离真实世界够不够近？

写下来，讲出来，反馈才会回来

那篇研究员文章里还有一个观点，我也很认同：把一切都记录下来。

写作是发现思维漏洞最便宜的方法。

很多想法放在脑子里的时候，会显得很完整。一旦写下来，就会发现逻辑不顺、证据不足、概念混乱、前后打架。这个过程有时候挺痛苦，但它很有效。

直播也是一样。

我为什么愿意持续做这些分享？

一方面是把最近的思考讲出来，逼着自己把逻辑理清楚；

另一方面，也是通过这种方式获得反馈。

别人听完之后会提出问题，会质疑，会告诉你哪里和他的实际感受不一样。这个过程对研究和产品迭代都很重要。

我们做安全 AI Agent 的时候，也在做类似的事情。

比如我们会写 benchmark，用不同 case 去测试 Agent 在安全方案设计、风险分析、工具调用、任务拆解里的表现。一个复杂任务跑下来，模型可能会执行一百多步。

每一步的思考、工具调用和输出，都可能影响最后结果。

如果只看最后一个分数，很容易误判。

所以要去看原始输出，看每一个环节到底出了什么问题：

是任务拆解不对，还是工具设计不对？

是知识库不够，还是提示词限制太多？

是模型没有理解目标，还是流程编排出了问题？

研究能力很大程度上就是这样练出来的：快速拿到反馈，诚实面对结果，然后一轮一轮迭代。

用 AI 做事，先要知道目标是什么

有朋友在直播间问过一个问题说：“用 AI 做自己不擅长的事情，会不会因为自己验证不了，所以很危险？”

这个问题挺好。

我的理解是，用 AI 的时候，最重要的能力并不是教 AI 每一步怎么做。你要能定义目标，定义问题，判断最终结果有没有满足你的真实需求。

换句话说，人要负责 What，AI 可以大量参与 How。

过去我们做很多工作，会习惯性地把注意力放在怎么做上。比如怎么写一份 PPT，怎么写一段代码，怎么整理一份方案，怎么完成一个安全分析。

但 AI 介入之后，How 的部分会被快速放大，很多具体动作都可以被加速。

这时候更容易暴露的问题，反而是目标有没有被定义清楚。

比如你要写一份客户方案，过去可能一上来就埋头写 PPT，写一个礼拜之后才发现方向错了。

现在更好的方式，是先把目标、对象、关键判断和方案定位写出来，用 AI 讨论一轮，再找同事或客户快速对齐。

先用一个小时把方向验证掉，比用一周时间写出一个方向错误的完整方案更重要。

AI 给出的内容，我会认真读，一句一句看。哪里不对，哪里不符合目标，哪里逻辑有问题，继续追问和修正。

这个过程的价值，不在于证明 AI 有多强，而在于校准自己的判断：

我提出的问题对不对？

我的目标是不是清楚？

这个结果能不能真的解决我的问题？

如果一个人连目标都没有定义清楚，只是让 AI “帮我写一个东西”，最后得到的往往就是一份看起来完整、实际上没什么判断的内容。

AI 时代，人的价值，不会只体现在亲手做了多少事上，而会更多体现在能不能定义一个值得做的目标，并持续判断结果有没有靠近它。

变化越快，越要有自己判断问题的能力

我在上次直播里，分享了 DeepMind 联合创始人哈萨比斯在斯坦福的一场对话。

他有一个观点很有意思：先把 AGI 做扎实，再用 AGI 去解决其他领域的问题。

这个逻辑背后有一个很大的判断：AI 和过去几次工业革命不太一样。过去的工业革命提升了生产力和效率，而 AI 有可能同时加速所有学科、所有行业的研究进程。

如果这个判断成立，变化就不止是某个行业多了一个工具。很多行业的知识生产速度、问题解决方式和组织运行方式，都会被重新改写。

这和前面讲的研究能力、问题定义能力，其实是一件事的两面。

当变化很慢的时候，很多人可以等着任务被拆好，等着流程被定好，等着行业里慢慢形成共识。

可如果 AGI 真的把很多领域的变化速度都往前推了一大截，过去这种“等别人定义问题”的方式会越来越被动。

哈萨比斯还谈到，AI 正在把全球带入某种囚徒困境。

每家公司都想用 AI 提效，每个国家都不敢在 AI 竞争中停下来。即使大家都知道里面会有风险，也很难有人先踩刹车。

这件事对安全行业尤其重要。因为 AI 带来的安全问题，当然包括：

模型会不会泄露数据？

Agent 会不会被攻击？

供应链会不会出问题？

但更深一层的问题是：当所有组织都开始用 AI 改造流程、提升效率、重构岗位，原来的治理体系、风险度量体系和安全边界都会被冲击。

所以安全行业不能只盯着某个具体风险点，还要学会观察更大的系统变化。

组织怎么变？

业务怎么变？

安全目标怎么变？

风险怎么被重新定义？

这些都需要重新研究。

换句话说，AGI 带来的压力并不只是“工具变强了，我们要赶紧用起来”。

更大的压力是：很多原来默认成立的问题、边界和方法，可能都要重新判断。

这也是为什么我觉得，安全人今天要训练的，不能停留在某个工具的使用技巧上。

更值得投入的是研究变化、定义问题、建立反馈的能力。工具会一直换，但这套能力会越来越重要。

AI 时代，运气也会偏向持续研究的人

AMD的CEO苏姿丰在 MIT 毕业典礼上的分享里，有一个观点我很喜欢：优秀的人会自己创造运气。

我对这句话的理解是：一个人如果长期保持好奇心，愿意挑战未知，愿意持续学习，也愿意把自己的思考表达出来，他就更容易吸引到同频的人、机会和资源。

这件事放在今天也成立。

AI 时代肯定会带来焦虑，但只谈焦虑没有意义。更实际的问题是，我们能不能建立一种新的工作习惯：

多花时间想大问题；

持续升级信息源；

把自己的思考写下来；

尽快获得反馈；

认真看原始结果；

有目的地探索；

找到可以一起研究问题的同伴；

这些听起来都不算炫，但它们会决定一个人能不能在 AI 时代持续往前走。

对安全人来说也是一样。

未来更有价值的安全人，不能只停留在会用多少工具、懂多少漏洞、熟多少规范。

更重要的能力，是围绕真实业务目标，把一个复杂问题研究透，把风险讲清楚，把方案落下去，并且用 AI 把这个过程做得更快、更深、更可持续。

这也是我最近做安全 AI Agent 时最大的感受：工具会越来越强，模型会越来越强，但问题意识、目标定义、业务理解、反馈系统，这些能力反而会变得更重要。

写在最后

本周日（7月12日）晚19:30，我会继续围绕“AI 和安全”方向跟大家分享我最近的思考，也会结合我们最近在做的安全 AI Agent 产品相关的能力，继续和大家讨论。

欢迎大家点击下方卡片预约直播，周日（7月12日）晚19:30，一起来直播间聊聊。

也欢迎大家把想讨论的问题留言给我，尝试提出一个好问题，一个好问题才会有一个好答案。

---

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：白帽子章华鹏 章华鹏 章华鹏《AI 时代最稀缺的能力之一是把问题研究透》