文章总结: 文章从黑客学习经验出发,提出搜索和学习是随算力持续增强的方法,不应内置理解结果而应构建让Agent自主发现的元方法。作者基于攻防实践构建AATAM威胁分析模型,通过种子模型结合外部经验驱动与实践验证驱动双路径优化,实现对Agent应用的风险识别与威胁建模。项目已开源,用户导入后可直接生成风险列表,核心观点是让Agent自主优化框架而非人为添加经验。 综合评分: 78 文章分类: AI安全,威胁情报,安全建设,安全工具,漏洞分析
让小龙虾像黑客一样思考
原创
knight knight
JDArmy
2026年3月11日 21:40 北京
写在前面:《惨痛的教训》告诉我们两个核心观点:
- 能随着计算能力增强而持续增强的方法,只有搜索和学习。
- 我们不应该内置理解的结果,而应该构建让 Agent 自主发现结果的元方法。
一、黑客是如何思考和行动的
1.1 蹒跚学步时期
大学伊始,我如同一张白纸。但儿时观看的黑客电影在我心中埋下了种子,我发自内心地觉得这很有趣,并给自己定下一个目标:成为战无不胜的黑客。
有了目标后,便是实践。我的实践由两条主线驱动:
| 学习路径 | 驱动模式 | 特点 | | — | — | — | | CTF竞赛 | 比赛 → 查看Writeup → 测试 → 总结 → 再比赛 | 目标明确,反馈清晰,能力提升较快 | | 实战演练 | 攻击 → 失败 → 寻找案例 → 再攻击 | 反馈只有成功/失败,缺乏进度感知,提升较难 |
实战训练的难点在于:缺乏学习环境和相关资料,反馈机制单一。但我后来发现了一个解决方案天花乱坠地想,小心谨慎地干,通过试错来学习。 不断突破自己的思考边界,然后小心求证。只要能成功达到目标,这条攻击路径就是可行的。
1.2 经验沉淀时期
随着攻防能力的提升,我开始思考一个核心问题:攻防的边界在哪里?思维的边界在哪里?
于是,我开始尝试构建一套全面的攻防方法论。众所周知,攻防没有标准SOP,但”苍蝇不叮无缝的蛋”——如何系统性地找到所有的”缝隙”?
我开始基于已知的攻防问题搭建基础分析模型,并参考外部模型,在实践中不断完善它。
二、AATAM威胁建模SKILL
核心问题:能否参考黑客学习的元方法,让 Agent 主动识别 Agent 风险?
2.1 Seed:种子模型
去年,我通过总结个人在 Agent 漏洞挖掘中的方法与思路,沉淀出 AATAM 分析模型,并使用它对 MCP 相关风险进行系统总结。之后,我将该风险模型转换为 Skill,作为优化的种子。
2.2 Train:优化路径
有了基础 Seed 后,我开始探索优化方案。目前主要有两条路径:
(一)外部经验驱动
| 来源 | 说明 | | — | — | | Agent 漏洞库 | 工业界脱敏的真实案例,提供实战参考 | | 学术论文 | arXiv 上关于 Agent 风险的分析总结,提供理论支撑 |
(二)实践验证驱动
| 方式 | 说明 | | — | — | | 白盒审计 | 对 Agent 应用进行代码审计,主动发现风险 | | 黑盒测试 | Agent 能理解风险,可通过测试另一个 Agent 来发现问题 |
核心思路:通过搜索与实践双轮驱动,实现 Skill 的持续优化。
2.3 Result:实践成果
引入该 Skill 后,针对 OpenClaw 的分析结果:
🔗 OpenClaw 威胁建模分析报告
AATAM的skill项目已开源,导入后可直接使用AATAM分析Agent应用,生成风险列表:GitHub – MCPFence/AATAM
AATAM (AI-Centric Agent Threat Analysis Model) — 以 AI 为中心的 Agent 威胁分析模型
三、总结与思考
时代的车轮滚滚向前,经验在算力面前毫无作用。
刚开始使用时,我还向其中加入了很多自己之前的经验。后来发现,给 Agent 一个大概的框架和工具,让 Agent 自己来优化是最合适的。
人的核心任务在于:
- ✅ 评估结果 — 这是最复杂、最需要人类判断的环节
- ✅ 定义框架 — 提供初始的元方法
- ⏳ 其他 — 交给 Agent 自主迭代
TODO:下一步计划
-
优化搜索逻辑:改进 AATAM Skill 中论文和漏洞数据库的搜索机制,实现按需加载
扩充案例库:增加更多 Agent 应用的风险评估报告
持续迭代:让 Agent 自主迭代并完善整个框架
参考文献:
- 惨痛的教训
- AATAM 项目仓库
- OpenClaw 威胁建模报告
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:JDArmy knight knight《让小龙虾像黑客一样思考》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论