让小龙虾像黑客一样思考

admin 2026-03-12 23:37:52 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 文章从黑客学习经验出发,提出搜索和学习是随算力持续增强的方法,不应内置理解结果而应构建让Agent自主发现的元方法。作者基于攻防实践构建AATAM威胁分析模型,通过种子模型结合外部经验驱动与实践验证驱动双路径优化,实现对Agent应用的风险识别与威胁建模。项目已开源,用户导入后可直接生成风险列表,核心观点是让Agent自主优化框架而非人为添加经验。 综合评分: 78 文章分类: AI安全,威胁情报,安全建设,安全工具,漏洞分析


cover_image

让小龙虾像黑客一样思考

原创

knight knight

JDArmy

2026年3月11日 21:40 北京

写在前面:《惨痛的教训》告诉我们两个核心观点:

  1. 能随着计算能力增强而持续增强的方法,只有搜索学习
  2. 我们不应该内置理解的结果,而应该构建让 Agent 自主发现结果的元方法

一、黑客是如何思考和行动的

1.1 蹒跚学步时期

大学伊始,我如同一张白纸。但儿时观看的黑客电影在我心中埋下了种子,我发自内心地觉得这很有趣,并给自己定下一个目标:成为战无不胜的黑客

有了目标后,便是实践。我的实践由两条主线驱动:

| 学习路径 | 驱动模式 | 特点 | | — | — | — | | CTF竞赛 | 比赛 → 查看Writeup → 测试 → 总结 → 再比赛 | 目标明确,反馈清晰,能力提升较快 | | 实战演练 | 攻击 → 失败 → 寻找案例 → 再攻击 | 反馈只有成功/失败,缺乏进度感知,提升较难 |

实战训练的难点在于:缺乏学习环境和相关资料,反馈机制单一。但我后来发现了一个解决方案天花乱坠地想,小心谨慎地干,通过试错来学习。 不断突破自己的思考边界,然后小心求证。只要能成功达到目标,这条攻击路径就是可行的。

1.2 经验沉淀时期

随着攻防能力的提升,我开始思考一个核心问题:攻防的边界在哪里?思维的边界在哪里?

于是,我开始尝试构建一套全面的攻防方法论。众所周知,攻防没有标准SOP,但”苍蝇不叮无缝的蛋”——如何系统性地找到所有的”缝隙”?

我开始基于已知的攻防问题搭建基础分析模型,并参考外部模型,在实践中不断完善它。


二、AATAM威胁建模SKILL

核心问题:能否参考黑客学习的元方法,让 Agent 主动识别 Agent 风险?

2.1 Seed:种子模型

去年,我通过总结个人在 Agent 漏洞挖掘中的方法与思路,沉淀出 AATAM 分析模型,并使用它对 MCP 相关风险进行系统总结。之后,我将该风险模型转换为 Skill,作为优化的种子

2.2 Train:优化路径

有了基础 Seed 后,我开始探索优化方案。目前主要有两条路径:

(一)外部经验驱动

| 来源 | 说明 | | — | — | | Agent 漏洞库 | 工业界脱敏的真实案例,提供实战参考 | | 学术论文 | arXiv 上关于 Agent 风险的分析总结,提供理论支撑 |

(二)实践验证驱动

| 方式 | 说明 | | — | — | | 白盒审计 | 对 Agent 应用进行代码审计,主动发现风险 | | 黑盒测试 | Agent 能理解风险,可通过测试另一个 Agent 来发现问题 |

核心思路:通过搜索实践双轮驱动,实现 Skill 的持续优化。

2.3 Result:实践成果

引入该 Skill 后,针对 OpenClaw 的分析结果:

🔗 OpenClaw 威胁建模分析报告

AATAM的skill项目已开源,导入后可直接使用AATAM分析Agent应用,生成风险列表:GitHub – MCPFence/AATAM

AATAM (AI-Centric Agent Threat Analysis Model) — 以 AI 为中心的 Agent 威胁分析模型


三、总结与思考

时代的车轮滚滚向前,经验在算力面前毫无作用。

刚开始使用时,我还向其中加入了很多自己之前的经验。后来发现,给 Agent 一个大概的框架和工具,让 Agent 自己来优化是最合适的

人的核心任务在于:

  • ✅ 评估结果 — 这是最复杂、最需要人类判断的环节
  • ✅ 定义框架 — 提供初始的元方法
  • ⏳ 其他 — 交给 Agent 自主迭代

TODO:下一步计划

  • 优化搜索逻辑:改进 AATAM Skill 中论文和漏洞数据库的搜索机制,实现按需加载

    扩充案例库:增加更多 Agent 应用的风险评估报告

    持续迭代:让 Agent 自主迭代并完善整个框架


参考文献

  • 惨痛的教训
  • AATAM 项目仓库
  • OpenClaw 威胁建模报告

免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:JDArmy knight knight《让小龙虾像黑客一样思考》

    评论:0   参与:  0