防得住大模型,防不住前端?复盘ChatGPT沙箱逃逸与近期15个AI致命漏洞"

admin 2026-11-12 12:43:04 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

防得住大模型,防不住前端?复盘 ChatGPT 沙箱逃逸与近期 15 个 AI 致命漏洞

原创

Hankzheng
Hankzheng

技术修道场

2026年11月10日 12:25
广东

去阅读

最近在看安全圈的报告时,发现了一个非常有意思的漏洞:Check Point 的安全研究人员成功绕过了 ChatGPT 的“锁定模式”,实现了零点击(Zero-Click)窃取用户聊天数据。

作为一个平时重度依赖各类 AI 工具的搞技术的,看到这个消息的第一反应是:OpenAI 在今年 6 月刚推出的“锁定模式”,原本就是为了防止提示词注入导致的数据外泄,怎么这么快就又被攻破了?

更让我觉得有意思的是,这次攻破 AI 防线的,并不是什么玄乎的大模型越狱黑魔法,而是我们再熟悉不过的传统前端沙箱逃逸。今天我就和大家一起扒一扒这个漏洞的底层逻辑,顺便盘点一下最近几个月 AI 安全圈爆出的那些“神仙打架”的操作。


一、 核心复盘:被“套娃”攻破的 HTML 预览沙箱

要看懂这个漏洞,我们得先聊聊 ChatGPT 里的 HTML 页面预览 功能。

当我们在对话里让 ChatGPT 生成一段 HTML/JS 代码时,它允许我们在应用内直接渲染预览。只要写过前端或者懂点 Web 安全的朋友都知道,直接执行用户提供的 HTML 和 JS 代码,容易“翻车”(XSS 警告)。

为了安全,OpenAI 做了两层防御:

  1. 沙箱隔离:

把渲染的内容关进一个嵌套的 iframe 沙箱里,剥夺它访问主应用 Cookie、LocalStorage 的权限,同时禁止它未经允许向外部发送网络请求。
2. 锁定模式:

这是一道更严格的铁闸,专门用来限制外发网络请求,防止攻击者通过提示词注入,把聊天记录里的敏感信息偷偷通过网络请求发给黑客的服务器。

逻辑看起来很严密对吧?那研究人员是怎么撕开这道口子的呢?

1. 防御的盲区:漏网的沙箱权限与 Hook 绕过

我在看报告细节时发现,OpenAI 的工程师在设计这个沙箱时,犯了一个很典型的“API 拦截与底层权限不一致”的错误:

  • 表层拦截:

ChatGPT 在当前预览的 iframe 里,通过重写或拦截 JS 方法(比如 window.open),阻止了代码直接弹出新窗口。
* 底层放行:

但是!底层的 iframe 沙箱属性配置(可能是设置了类似 allow-popups 和 allow-popups-to-escape-sandbox 的权限)依然允许弹窗,并且允许弹出的新窗口脱离沙箱限制。

2. 攻击路径与重现逻辑(套娃大法)

既然顶层窗口的弹窗函数被“阉割”了,怎么拿到一个原汁原味、没被修改过的弹窗函数呢?答案就是:再套一层 iframe!

如果我们要在本地推演这个攻击过程,核心链路其实非常清晰:

  1. 注入投毒:

攻击者通过精心构造的提示词(Prompt)、恶意的自定义 GPT,或者直接发给你一个公开的 ChatGPT 分享链接,里面包含了一段恶意的 HTML 代码块。
2. 动态创建子帧(Nested Frame):

当这段 HTML 在预览沙箱中渲染时,不去直接调用已经被 ChatGPT 拦截的 window.open,而是通过 JS 动态在当前页面里再创建一个新的子 iframe(相当于在沙箱里又套了一个小房间)。
3. 盗取原生函数:

这个新建的子 iframe 拥有自己独立的 window 对象(即 subFrame.contentWindow)。重点来了——ChatGPT 的拦截脚本只注入在了外层预览帧,并没有覆盖到动态生成的内层子帧!
4. 沙箱逃逸与数据外带:

攻击脚本直接提取子帧里未被修改的原生弹窗函数,带着 allow-popups-to-escape-sandbox 的免死金牌弹出一个新窗口。这个新开出来的上下文完全脱离了原有的沙箱限制,也彻底绕过了“锁定模式”对网络外发的封锁。

技术小结:

这就是一个经典的 DOM 沙箱逃逸。一旦逃出沙箱,攻击者不仅能在桌面端(Electron 架构)或网页端实现 Zero-Click(零点击)静默窃取聊天数据,甚至还能完全控制弹窗内容,画一个逼真的“ChatGPT 版本更新”钓鱼界面,忽悠你下载木马。

目前 OpenAI 已经在 2026 年 9 月 18 日修复了这个漏洞。但正如研究人员所说:AI 的安全控制,取决于包裹着它的整个应用环境的短板。模型本身防得再好,外围的前端容器漏了个洞,照样满盘皆输。


二、 连环暴击:分享链接接管账号与跨账号隐蔽通道

除了上面这个弹窗逃逸,就在今年 9 月,ChatGPT 还接连被爆出了另外两个极其凶险的漏洞,技术思路同样值得我们警惕:

  • 一键接管账号(CSP 与沙箱绕过):

Parameter Labs 披露了一个通过公开分享链接触发的漏洞。如果攻击者把恶意 HTML 块标记为“可预览”,受害者点开分享链接时,预览会自动加载。通过绕过沙箱和内容安全策略,恶意载荷可以直接在 chatgpt.com 的主域名上下文下执行,直接拿到受害者已登录的 Web Session,实现账号接管。
* 跨账号隐蔽指令通道:

同样是 Check Point 发现的。攻击者可以通过共享对话或自定义 GPT 在你的会话上下文中埋入“隐藏指令”。当你像往常一样和 ChatGPT 聊天时,表面上它正常回答你的问题,但背地里,它正利用你的账号权限、已连接的插件和数据,在后台偷偷帮黑客跑任务,并通过不同账号间的代码执行环境把结果回传给黑客!


三、 行业全景:近期的 15 个 AI 与 Agent 致命漏洞盘点

看完 ChatGPT,我们再把视野拉大。现在的 AI 早就不是单纯聊天的玩具了,它们正在变成集成在 IDE、浏览器、企业工作流里的 AI Agent。

原文在后半部分一口气密集盘点了近期安全圈爆出的 15 个极具代表性的 AI 安全漏洞与攻击技术。为了方便大家理解,我把它们按攻击面做了一个深度的技术归类:

1. IDE 与编程助手沦陷(打工人最痛的软肋)

我们每天写代码用的 AI 助手,正在成为黑客远程代码执行的最佳跳板:

  • Embrace 漏洞群(内置浏览器劫持):

一次性波及 Cursor、GitHub Copilot、OpenAI Codex、VS Code 和 Claude Desktop 五大顶流工具。它们内置的浏览器存在缺陷,可被利用在宿主机上执行任意代码、窃取本地文件,甚至伪造地址栏。
* Plugin4Shell(AI 供应链零点击 RCE):

针对 Claude Code、Codex、GitHub Copilot 和 Gemini CLI。这招非常阴险——虽然这些工具会对插件做 Git Commit 的 SHA 哈希锁定,但 Agent 在检出代码后从不校验最终落地的文件是否真的匹配该哈希。控制了插件仓库的黑客可以通过偷梁换柱,实现零点击 RCE。
* 加密上下文注入:

影响 Grok 和 GitHub Copilot CLI。攻击者把恶意指令藏在 AES 加密文本里,通过单个网页触发间接提示词注入,就能顺走开发者的本地文件并外发。
* AGENTS.md 持久化投毒:

针对 Anthropic、Google 和 OpenAI 的编程 Agent。黑客通过在 GitHub Issues 等不可信输入里埋入注入指令,诱导 Agent 修改项目里的 AGENTS.md 文件,实现持久化指令投毒,甚至直接污染软件发布流水线。

2. 浏览器端 Agent 劫持(你的浏览器不再属于你)

  • BragJack 攻击:

针对内置了 AI Agent 的新一代浏览器(如 Chrome、Edge、Opera Neon、Perplexity Comet、Claude in Chrome)。利用用户已安装的恶意扩展配合“提示词强制”技术,直接劫持浏览器里的 AI。
* PleaseFix(意图碰撞零点击攻击):

同样针对 Agent 浏览器。黑客把恶意指令藏在邮件、日历邀请或普通网页里,利用“意图碰撞”技术,让浏览器里的 AI 拿着你本人的身份、权限和访问令牌,替黑客打工。

3. 框架、云平台与企业工作流击穿

当企业把 Agent 接入核心业务流,权限设计稍微偷懒就会引发灾难:

  • Repeat-After-Me:

通杀 LangGraph、微软 Agent Framework、AutoGen、Google ADK 2.0、AWS Strands Agents 和 CrewAI 六大主流框架。仅仅通过一个看似无害的“文本重复请求”,就能骗过模型去执行非授权的工具调用。
* 云端横向移动:

针对暴露在外的 AWS Bedrock AgentCore 智能体。通过提示词注入直接提取底层的 IMDS(实例元数据服务)凭证,进而横向接管其他 Agent、读取私密对话并盗取关联工具的密钥。
* 工作流身份劫持:

很多企业的 AI 工作流在执行下游操作时,没有严格校验外部提问者的权限,而是直接使用了高权限的服务账号或开发者 API Key。结果就是:黑客从一个未鉴权的入口发个普通请求,AI 工作流就成了黑客的“高权限免密代理”。
* SalesBleed 与客服 Agent 沦陷:

比如利用 Salesforce 的 Web-to-Lead 表单植入间接注入,零点击榨干 Agentforce 里的敏感客户数据;或者操控企业客服 AI 发送钓鱼邮件、绕过多因素认证。
* 技能依赖劫持:

针对 Agent 的技能生态,通过劫持某个 Skill 依赖的代码库、包或域名,直接“一锅端”所有安装了该技能的 Agent。
* 本地提权滥用:

针对 Meta Muse 的 PoC 攻击,本地低权限进程可以通过重定向语音听写流量,滥用 AI 助手的高权限执行任意操作。

4. 模型底层的玄学绕过

  • PuzzleMask(守门人绕过):

现在很多架构会在大模型前面放一个轻量级的“小模型”做安全策略检查。PuzzleMask 技术通过特定的散文包装把恶意指令藏起来,轻松骗过算力较弱的守门人模型,等请求到了后端强大的主模型手里,恶意载荷才被真正解析并触发。
* 采样漂移:

很多厂商为了合规,会在大模型的输出里加入不可见的数字水印。但 Lasso Security 发现,加水印这个动作会改变模型的采样概率分布!当配合提示词注入时,打了水印的模型反而更容易降低安全防御,去回答那些原本应该拒绝的有害请求!(真·防伪手段干掉了安全防线)。


四、 写在最后:给技术同行的一点思考

梳理完这一长串漏洞,我最大的感触就是文章最后 Novee Security 说的那句话:

“Agent 正在成为 CI/CD、消息传递、工单分流和应急响应的默认基础设施。它们越自主,外围框架就越需要替你决定什么是安全的,也就意味着越多不可信的输入能够触达真正的代码执行。”

以前我们做传统安全,核心原则是“永远不要相信用户的输入”,数据是数据,代码是代码,边界很清晰。

但在 AI Agent 时代,自然语言就是代码,外围的网页、邮件、GitHub Issue 全都是可执行上下文。我们在享受着 Cursor 自动写代码、Agent 自动处理工单的爽快感时,往往忽略了它们背后拿着的是我们宿主机的 Shell 权限、是云平台的 IAM 密钥、是带有完整登录态的浏览器沙箱。

作为开发者或架构师,接下来我们在设计 AI 应用时,真的不能只盯着“提示词防注入”了。最小权限原则(切忌一把高权限 API Key 走天下)、严格的沙箱边界校验、以及对工具调用的二次鉴权,才是安全的底线。

你们团队现在用上 AI 编程助手或者内部 Agent 了吗?有没有做过类似的安全加固?欢迎在评论区聊聊你的看法!

网络安全 #AI安全 #ChatGPT #大模型 #前端安全


评论:0   参与:  0