文章总结： CheckPoint《AISecurityReport2026》指出AI已从辅助策划入侵发展到自主执行攻击，包括自动化漏洞利用、恶意软件开发和实时行为调整。攻击者通过越狱AI模型、窃取凭证或使用开源模型获取能力。生成式AI被用于大规模身份伪造和社会工程攻击，企业AI数据暴露风险高，全球87%-93%的组织每月经历高风险AI交互。报告建议组织治理AI使用、保护AI系统并以机器速度防御。 综合评分： 84 文章分类： AI安全,威胁情报,网络安全,安全意识

AI 曾经用于帮助策划入侵，如今正在执行入侵

原创

NetSecurity NetSecurity

安全行者老霍

2026年8月1日 08:00 美国

在小说阅读器读本章

去阅读

作者：Kevin Poireault 发布时间：2026年7月15日

根据 Check Point 的《AI Security Report 2026》，过去十二个月中，研究人员记录了多起入侵事件，其中 AI 自主运行漏洞利用工作流，在最少的人为指导下，于数十个会话中生成数千条命令。

1. AI 驱动的网络攻击

风险最高的攻击者，是那些能够让 AI 在攻击链多个阶段进行协调，而无需人工干预的攻击者。他们通过获取具备能力的 AI 模型，并移除其安全控制机制来实现这一点。

攻击者通过滥用商业模型、使用窃取的 AI 凭证、自行托管公开可用的开源模型，或者购买专门为网络犯罪构建的 AI 工具访问权限，来获得 AI 能力。

越狱（Jailbreaking）会移除阻止 AI 模型执行恶意指令的安全防护机制。攻击者使用精心构造的提示词绕过安全控制，尽管这些技术通常会被持续修补。一种更持久的方法是针对 AI 编程智能体，在 CLAUDE.md 等文件中植入恶意指令，这些文件会在每次会话开始时自动加载。一旦植入，越狱状态会持续存在，直到该文件被删除。

AI 已被广泛用于开发恶意软件，包括生成、优化和调试代码，使经验较少的攻击者也能够制作更强大的攻击工具。犯罪组织和民族国家级攻击者越来越依赖 AI 辅助开发。此外，还有一类规模较小但正在增长的恶意软件，会在执行过程中与 AI 模型通信，以生成命令或实时调整自身行为。

AI 已经具备足够强的代码推理能力，可以加速漏洞发现和漏洞利用开发。从漏洞公开披露到出现可用漏洞利用程序之间的时间持续缩短，攻击者通常能够在漏洞公开后的数小时内生成利用代码。测试和部署补丁的速度正在成为主要瓶颈。

2. 攻击 AI 系统

组织已经将 AI 集成到电子邮件、文档、代码、浏览器和业务工作流中，使其能够访问敏感数据，并代表用户执行操作。AI 已成为企业环境的一部分，同时创造了不断扩大的攻击面。针对 AI 系统的攻击大致分为两类：AI 特有风险和传统软件漏洞。

语言模型会将指令和数据作为单一文本流进行处理，而不会区分二者。这使得不可信内容可能被解释为指令而不是数据，从而导致提示词注入、恶意配置文件以及内存操纵等攻击。

AI 工具继承了其他软件所具有的相同弱点。自主 AI 智能体进一步扩大了这些风险，因为它们可能以过高权限运行、安装新的组件，并在缺少人工监督的情况下信任外部输入。

“过去将有能力的攻击者与其他人区分开的专业知识门槛正在消失，防御者不能再假设攻击另一端由人类控制节奏。能够保持领先的组织，将是那些能够治理 AI 使用方式、保护如今依赖的 AI 系统，并以机器速度而不是人类速度进行防御的组织。”Check Point Research 副总裁 Lotem Finkelstein 表示。

3. 数字身份威胁

生成式 AI 正在改变信任建立方式，因为它使大规模创建可信身份成为可能。熟悉的声音、视频通话中的面孔、政府身份证件，或者实时交流，过去都可以作为合理的身份验证依据。而如今，这些内容都可以以低成本、高真实度被合成。

生成式身份攻击已经从预录制内容发展到实时交互和自主运行阶段。几乎每一个阶段都已经出现在现实攻击中，或者已经可以通过犯罪市场获得。自主交互式视频仍然是唯一明显尚未普及的例外。

AI Security Report 2026

生成式身份威胁按照媒介类型和成熟度分类（来源：Check Point）

即使是经过训练的观察者，也只能在约 41% 的情况下正确识别 AI 生成的人脸，而普通公众的准确率约为 30%。

社会工程攻击在 2025 年成为主要攻击方式，其范围已经从电子邮件扩展到使用电话、消息应用、Microsoft Teams 和 Slack 等协作平台、虚假网站以及实时冒充的协调式攻击活动。

多渠道攻击已经成为标准实践，并在多起重大攻击事件中发挥核心作用，包括 Scattered Spider 针对 Marks & Spencer 和 Jaguar Land Rover 的攻击，以及 ShinyHunters 针对 Salesforce 客户开展的电话攻击活动。FBI 统计显示，仅支持语音的欺诈活动造成的损失就超过 2.5 亿美元。

4. 企业 AI 数据暴露

在 2025 年 10 月至 2026 年 5 月期间，生成式 AI 已成为多个业务领域组织生产力体系的重要组成部分。在此期间，每个月都有 87% 至 93% 的组织经历至少一次高风险 AI 交互。

欧洲记录了最高比例的高风险提示词，其次是拉丁美洲和北美。这一较小的差距表明，与 AI 相关的数据暴露是一个全球性挑战，不同地区之间差异有限。欧洲也表明，仅依靠隐私监管并不能阻止高风险 AI 使用，而拉丁美洲在报告期间增长速度最快。

商业服务行业记录了最高比例的高风险提示词，其次是批发与分销行业以及电信行业。商业服务行业的增长速度也最快，这反映出 AI 在文档、通信和客户交互场景中的更广泛应用，而共享更多上下文信息会增加敏感信息暴露的风险。

5. 保护 AI 基础设施

企业通过专用 LLM 环境、AI 工厂以及基于硬件的部署方式构建 AI 基础设施，这扩大了包括硬件工作负载、容器、推理 API 和 LLM 端点在内的攻击面。

AI 攻击面中最危险的部分，通常是组织无法看到的部分。暴露的模型服务器、智能体控制面板以及推理端点会持续遭受攻击者探测，而许多组织缺乏对这些资产的可见性。

https://www.helpnetsecurity.com/2026/07/15/check-point-ai-security-report-2026/

（完）

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全行者老霍 NetSecurity NetSecurity《AI 曾经用于帮助策划入侵，如今正在执行入侵》