如何应对AI时代的安全攻防加剧问题

原创

小安伴你行
小安伴你行

小安伴你行

2026年10月23日 09:18
北京

去阅读

引言：攻防的天平正在倾斜，但应对也有章法

AI时代，网络攻防的天平正发生显著倾斜：攻击者借助大语言模型、智能体与自动化工具，能够以更低成本、更大规模、更精准的方式发起攻击；与此同时，防御方也开始用AI武装自身——主动预测、自动响应、智能体驱动，正推动安全运营从被动救火转向主动防御。这场“攻防对抗加剧”的变局既是安全威胁，也是倒逼组织与个人升级防御能力的契机。

本材料面向公司全体员工，设定了三项目标：第一，帮助大家理解AI时代攻防加剧的原因，厘清攻击形态发生的根本变化；第二，掌握组织层面应对攻防加剧的防御体系与关键抓手；第三，推动大家将个人层面的风险识别、防范与上报动作落实到日常工作中。在攻防加剧成为常态的背景下，每个人既是潜在的被攻击目标，也是企业安全防线的重要一环。

1  攻防为何加剧：AI 时代攻防新格局

1.1  攻击者借 AI 全面武装

大语言模型显著降低了网络攻击门槛：高质量钓鱼内容可在数秒内完成生成与多语言转化；深度伪造技术打破了“眼见为实”的认知惯性；AI可自动编写漏洞利用代码与恶意脚本；智能体化攻击还能自主规划攻击路径、探测漏洞并动态编写攻击代码。网络攻击由此从传统的“手工作坊”模式转向“规模化、精准化、自动化”的新阶段。

1.2  防御方“用 AI 防 AI”

防御方也在同步升级自身能力：凭借AI强大的数据处理与模式识别能力，安全防御得以从被动响应转向主动预测与自动防御；AI智能体的融入，更推动网络攻防进入“智能体驱动”的新阶段。在实际应用中，安全大模型、威胁情报分析与自动化响应（SOAR）已经落地实践，实现了“以AI对抗AI”。

1.3  从“人与人”到“AI 之间”的军备竞赛

随着攻防双方都深度引入AI技术，未来的网络安全对抗，很可能在相当程度上演变为“AI之间的对抗”。这意味着单纯依靠人工研判已经无法满足防御需求，各类组织必须在工具、流程与人才层面同步投入建设，才能在这场军备竞赛中不被拉开差距。

表1 AI 时代攻防能力对比

2  认清当前最危险的攻击形态

2.1  AI 钓鱼与深度伪造：社会工程全面升级

大语言模型可生成高度仿真的钓鱼邮件、短信与私信内容，还能嵌入目标企业真实部门信息、公开公告内容与官方行文风格。第三方研究统计显示，2025年约82.6%的钓鱼邮件带有AI生成特征，由深度伪造技术驱动的语音钓鱼（vishing）同比激增约1600%（vSpam报告）。公安部数据表明，2025年第一季度全国AI换脸、拟声诈骗案件的环比增幅达到45%。

2.2  智能体化与自适应恶意软件：自动化攻击

安全监测发现，已有攻击利用AI智能体完成工具方案规划、漏洞探测与流量监测，攻击代码明显由AI生成，可自动编写动态代码发起攻击（新华网）。威胁行为人还将大模型API直接整合进恶意软件，实现“即时（just-in-time）”代码生成，打造出更难检测、更难溯源的自适应恶意软件（Google Cloud / Mandiant）。

2.3  提示注入与供应链污染：AI 应用自身成靶点

大模型应用天然存在指令与数据共用传输通道的问题，提示注入长期位居OWASP大模型应用十大风险首位；攻击者可通过“间接提示注入”将恶意指令隐藏在网页、邮件、文档中，诱导模型泄露敏感数据。除此之外，供应链污染与数据投毒还会污染模型输出，引发系统性风险。

2.4  针对 AI 基础设施的攻击

攻击者的目标不仅包括人员和应用，还涵盖AI算力与训练设施：安全公司披露，攻击者已在利用开源框架漏洞，劫持暴露在公网上的AI计算实例挖矿，就连英伟达A100数据中心级显卡也被利用（36氪/Oligo）。算力被盗取、模型被污染，这类风险都必须纳入防御覆盖范围。

表2 主要 AI 攻击形态与防御切入点

3  组织如何应对：构建 AI 时代防御体系

3.1  战略与治理：风险管理框架化

将AI安全纳入组织风险管理体系，可参考国际通行框架落地实施：NIST发布的《人工智能风险管理框架》（AI RMF 1.0）围绕治理、映射、度量、管理四大核心职能，可帮助组织识别并管控AI全生命周期的各类风险；开展威胁建模则可参考MITRE ATLAS（面向AI系统的对抗威胁知识库）与OWASP大模型应用十大风险。在治理层面，核心是明确责任主体、划定风险容忍度并建立持续评估机制。

3.2  技术防线升级：以 AI 对抗 AI

部署AI安全平台与威胁情报体系，可将大模型应用于告警降噪、关联分析与攻击研判；引入自动化响应（SOAR）能够缩短安全事件处置时长；还可探索“蜜点”这类前置防御手段，在大模型的关键节点设置诱捕访问点，捕获攻击发起前的“踩点”行为。已有实践显示，安全大模型可显著降低攻击暴露面。

3.3  人员与流程：全员意识、红队演练、应急

在攻防态势不断加剧的背景下，人的因素仍是影响AI安全的关键变量：需定期开展全员安全意识培训与钓鱼演练；组建自有红队或借助外部红队开展对抗性测试，持续检验并优化防御体系；建立AI安全漏洞分级标准与应急响应流程，必要时可引入白帽众测，汇聚外部力量补齐防御短板。

3.4  全生命周期安全：把防护前移

将安全要求嵌入AI与信息系统的设计、开发、部署、运营到退役的全生命周期：从源头评估数据与模型风险，在系统上线前开展安全测试，运营阶段进行持续监测，退役环节完成妥善处置，而防护前移的成本远低于事后补救。

表3 组织应对措施分层

4  员工个人如何应对：从“易攻点”到“防御者”

4.1  识别 AI 攻击的日常要点

要对“听起来过于逼真”的语音、视频、邮件保持警惕：即便对方的语气、形象和领导、同事完全一致，也仍有可能是深度伪造内容。

如果涉及转账、改密、信息外发、安装软件这类高风险操作，必须通过第二通道（电话回拨、当面核实、原有内部系统）进行独立确认。

4.2  安全行为与工具使用

不点击来源不明的链接，不下载身份不明的附件，不在未知页面输入账号密码；同时要对内容反常、催促紧迫、要求保密、绕过正规流程的话术保持警觉。

仅使用经公司批准的工具；不要将商业秘密、个人信息、源代码等敏感数据输入未获授权的外部AI、网盘或邮箱。

4.3  异常上报与应急配合

发现疑似钓鱼、异常登录、异常导出或可疑文件后，要立即上报信息安全部门，保留相关证据，不删除、不扩散相关内容。

在应急处置与调查过程中要如实配合，提供必要的操作记录；不要自行开展“补救”，避免造成影响扩大。

表4 员工个人应对行动清单

结语：攻防加剧是常态，把“应对”变成习惯

AI时代的攻防加剧并非暂时现象，而是全新常态。它既是威胁的放大器，也是防御升级的催化剂——核心关键在于，组织层面要“用体系布防、用AI反制”，个人层面要“识风险、守行为、快上报”。请各位将本材料中的注意事项落实到日常工作当中，并持续关注公司发布的安全培训、演练安排与应急通知。攻防形势不断变化，安全底线始终不变：每一次认真核实、每一次拒绝点击不明内容、每一次及时上报，都是在为企业组织筑起更加坚固的安全防线。