AI 攻击来了,企业需要重新发明一套安全防御体系吗?
原创
jishuzhain
jishuzhain
OnionSec
2026年11月17日 11:17
广东
去阅读
— ◆ —
前段时间看到两段关于 ARTEX、Cairn 等 AI 辅助攻击框架的讨论,觉得挺有意思。
其中一个观点是:很多安全厂商在讨论这类框架时,似乎还在沿用过去分析 Cobalt Strike 等 C2 框架的思路,热衷于整理 IoC、提取特征、编写检测规则,甚至发布各种《如何检测 ARTEX》的技术指南。
但这里可能存在一个认知偏差。
传统 C2 框架通常需要在受害者环境中部署某些组件,例如 Beacon、Loader、通信模块等。这些组件的实现方式、通信协议、加载行为和配置特征,确实可能留下相对稳定的技术指纹。防御人员可以针对这些特征建立检测规则。
但 AI Agent 化的攻击框架有些不同。
以 ARTEX、Cairn 这类攻击编排系统为例,真正的编排逻辑、LLM、Prompt、Skills、Tools 以及相关基础设施,主要运行在攻击者一侧。这些组件可以替换、组合和调整。框架本身并不决定最终出现在受害者系统中的执行代码、通信方式和攻击行为。
攻击者今天使用 ARTEX,明天换一个模型,后天自己写一套 Python 工具,最终实现的攻击目标可能完全相同。
某个 IP 地址、WebShell 或漏洞利用程序,也不会因为曾经出现在 ARTEX 相关攻击活动中,就自动成为 ARTEX 的专属指标。
当然,针对特定实现留下的 User-Agent、网络请求特征等进行检测仍然有价值。但这些特征只能覆盖框架的部分实现,不能代表它能够编排的全部攻击行为。
攻击框架的名字,不等于攻击行为的特征。
这也是为什么我认为,过度强调某个 AI 攻击框架的 IoC 集合,容易让防御人员产生错误预期:仿佛只要识别出这个框架,就能够解决它带来的安全问题。
实际上,我们面对的可能是一种不同于传统恶意软件和 C2 框架的攻击生产方式。
• • •
01
一、AI 改变了攻击的生产方式
过去完成一次攻击,攻击者需要投入不少人工劳动。
从信息收集、资产扫描、漏洞分析,到编写利用脚本、调整攻击载荷、寻找替代路径,每个环节都需要一定的专业知识和操作经验。
现在,AI Agent 开始参与这些工作。
例如,Nmap 扫描失败,可以尝试生成 Python 扫描器;HTTP 请求被拦截,可以分析失败原因并调整请求方式;某个利用过程没有达到预期结果,可以重新分析环境,寻找其他实现路径。
这里最值得注意的不是 AI 能不能执行某条命令,而是它能够根据执行结果调整后续行动。
传统自动化工具通常需要预先定义比较明确的执行路径,遇到异常情况可能就会停止。而具备工具调用和反馈机制的 Agent,可以尝试更换工具、调整参数,甚至重新规划任务。
攻击者也不再一定需要亲自完成每一个操作。
这可能带来三个变化:
1.降低部分攻击活动的人工操作成本。
2.提高攻击过程中的尝试和调整速度。
3.增加攻击路径的多样性,使依赖固定执行序列的检测方法面临更大挑战。
但也不能因此得出 AI 已经让攻击成本趋近于零的结论。
网络环境、漏洞利用条件、身份权限、系统隔离、数据访问控制以及攻击结果的实际获取,依然受到真实计算环境的约束。
AI 能够降低部分认知劳动和操作劳动的成本,却不能凭空消除所有技术限制。
因此,AI 带来的变化,更准确地说是攻击者的成本结构和能力边界正在发生变化。
• • •
02
二、攻击者更灵活,不代表防御体系必须推倒重来
今年参加腾讯反入侵岗位第二轮面试时,面试官曾经问过我一个问题:
如果未来 AI 能够实现攻击自动化,企业应该如何防御?
我当时的回答比较直接:其实不影响,本质还是对风险和投入进行合理定价,过去的防御方法依然有很大作用。
现在回头看,这个回答依然是我的基本判断。
因为企业需要保护的东西并没有发生根本变化。
企业仍然需要保护自己的资产、身份、权限、业务系统和数据。
攻击者使用人工操作、自动化脚本,还是 AI Agent,并不会改变这些资产的价值,也不会自动改变企业需要承担的安全责任。
例如:
—外部暴露面仍然需要资产管理和攻击面治理。
—身份入侵仍然需要身份认证、权限控制和异常访问检测。
—漏洞利用仍然需要漏洞管理、补丁治理和必要的虚拟补丁。
—恶意执行仍然需要终端防护和应用控制。
—权限提升仍然需要权限边界和异常行为检测。
—横向移动仍然需要网络分区和访问控制。
—数据窃取仍然需要数据访问审计和外传检测。
—持续驻留仍然需要终端检测、威胁狩猎和事件响应。
这些能力不会因为攻击者使用了大模型就失去价值。
当然,不能因此认为现有防御能力完全不需要调整。
如果攻击者能够以更低的成本、更高的频率尝试不同的攻击路径,那么企业现有的检测覆盖率、响应速度和告警处理能力就可能面临新的压力。
但这属于对现有防御能力的重新评估,而不是重新发明一套安全体系。
攻击方式发生变化,不意味着风险管理的基本逻辑也要跟着推倒重来。
• • •
03
三、真正需要升级的是检测思路
过去很多检测规则依赖特定工具、命令行参数、文件特征、网络特征或者固定的执行序列。
这些方法并没有过时。
问题在于,当攻击者能够根据反馈动态调整执行路径时,单一特征的覆盖范围可能进一步缩小。
例如,我们原本通过某个工具的特征识别扫描行为,但攻击者可以换成自己编写的脚本;原本通过固定命令序列识别某类操作,但 Agent 可以采用其他工具实现相同目标。
如果检测逻辑过度依赖工具身份,就容易被工具替换绕过。
因此,检测需要更多关注行为本身,以及行为发生时的环境上下文。
例如:
一个普通员工在正常工作时间访问业务系统,与一个异常身份在短时间内访问大量敏感资源,两者即使使用了相同的工具,其风险也可能完全不同。
同样,一次权限变更本身未必意味着入侵,但如果它与异常身份认证、非正常进程执行、跨主机访问和敏感数据读取连续发生,就值得进一步调查。
这意味着我们需要将检测能力从单点特征逐渐扩展到多个维度:
—行为:实际执行了什么操作?
—身份:由谁执行,是否符合其权限和职责?
—资产:目标系统的重要程度如何?
—关系:多个事件之间是否存在异常关联?
—结果:是否产生了权限变化、持久化或者数据访问?
需要强调的是,行为关联并不意味着简单地把更多日志堆在一起。正常运维同样可能产生复杂行为,检测系统必须考虑业务上下文、证据质量和误报成本。
这里其实没有什么特别神秘的新理论。
我们过去做的威胁检测、终端安全、攻击链分析和告警治理,依然适用,只是需要适应新的攻击条件。
• • •
04
四、企业不应该陷入新的安全军备竞赛
我一直觉得,企业安全建设有一个很现实的问题:防御投入没有天然的上限,但企业预算一定有上限。
今天出现一种新的攻击框架,购买一套检测产品;明天出现一种新的模型,再购买一套 AI 安全产品;后天攻击者换了工具,又需要重新升级。
如果企业按照攻击工具的迭代速度不断增加防御投入,最终很容易陷入一种没有终点的军备竞赛。
问题是,企业购买安全产品的目的是什么?
不是为了证明自己拥有多少检测规则,也不是为了在技术上识别所有攻击框架,而是为了降低真实业务风险。
可以用一个简单的模型描述:
R=P(E)×P(H|E)×L
其中:
—P(E):攻击事件发生的概率。
—P(H|E):攻击发生后造成损害的条件概率。
—L:可能造成的损失。
安全措施的价值,在于能够在合理成本下改变这些风险因素。
例如,减少不必要的外部暴露,可以降低部分攻击机会;限制高权限账户,可以降低入侵后的权限扩张空间;进行网络隔离,可以限制攻击影响范围;建立可靠的数据备份和恢复机制,可以降低业务中断的损失。
这些措施可能没有一个专门针对 AI 攻击的产品名称,但它们依然能够产生实际的防御价值。
企业真正需要考虑的是:
增加一项安全能力,究竟能降低多少风险?需要投入多少资金、人力和维护成本?它是否比其他措施更值得优先实施?
当然,合规要求、极端损失和企业风险承受能力也需要纳入决策,不能把所有安全问题都简化成一笔可以直接抵消的经济账。
但至少,安全投入应该与风险降低的实际收益建立联系。
• • •
05
五、不要让攻击工具的迭代速度绑架防御投入
AI 攻击框架只是一个开始。
未来攻击者可能使用不同的大模型、不同的 Agent 架构、不同的工具链,甚至完全不再使用今天这些框架。
但无论攻击编排系统如何变化,最终仍然需要在真实环境中完成攻击目标。
攻击者需要获取访问权限,需要执行操作,需要突破权限边界,需要访问目标数据,最终还需要将攻击结果转化为实际收益。
这些过程受到操作系统、网络协议、身份体系、业务逻辑和安全控制的共同约束。
因此,防御者真正需要研究的,不是攻击者今天使用了什么名字,而是:
攻击者为了达到目标,必须完成哪些动作?
这些动作会在什么位置留下证据?
现有防御措施能否发现、阻断或者限制这些行为?
如果不能,补齐能力需要付出多少成本?
我并不认为 AI 攻击不值得重视。恰恰相反,它可能让攻击者以更低的成本完成过去需要更多人工投入的工作,也可能让企业面临更高频、更复杂的攻击尝试。
但重视一种新技术,不等于必须围绕它建立一套全新的安全产业。
ARTEX 会过时,Cairn 也可能被其他框架替代。今天的模型会被明天的模型取代,今天的攻击工具也会被其他工具替代。
企业真正需要长期建设的,是对资产、身份、权限、行为和数据的控制能力,以及对安全风险和防御成本的持续判断。
攻击者可以不断更换工具,但企业没有必要跟着每一种工具重新建设一遍安全体系。
检测攻击行为,控制攻击影响,合理分配防御资源。
这些听起来并不新鲜的方法,在 AI 时代依然有很大的价值。
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。









评论