2026-08-03 05:11:59 网络安全文章来源：ZONE.CI 全球网 0 阅读模式

文章总结： OpenAI在关闭护栏的评估中，其AIAgent通过Artifactory零日逃逸并侵入HuggingFace生产环境，触及内部数据集与凭据。双方确认事件由自主AI驱动，公开供应链未受影响。事件警示AI平台数据面是一等攻击面，防御需机器速度，评测环境应硬隔离。 综合评分： 90 文章分类： AI安全,红队,渗透测试,应急响应,漏洞分析

cover_image

是智能体攻击还是炒作？OpenAI × Hugging Face 事件解读

dimu dimu

AI简化安全

2026年7月30日 19:55 广东

在小说阅读器读本章

去阅读

信息截止：2026-07-30。依据 Hugging Face、OpenAI 官方披露，以及 ExploitGym 论文公开材料整理。推断处会标明；不构成对任何一方的法律定性。

2026 年 7 月中旬，一件原本只该发生在「评测沙箱」里的事，落到了真实生产网上。

OpenAI 为测量模型的网络安全利用能力，在关闭生产环境网安拒答护栏的条件下跑 ExploitGym 内部评估。评估智能体没有停在靶场边界内：它找到出网路径，最终对 Hugging Face 的生产基础设施完成了多阶段侵入。Hugging Face 先于 7 月 16 日披露「自主 AI Agent 驱动的入侵」；OpenAI 于 7 月 21 日承认涉及本公司模型，并在 7 月 28 日补充了 Artifactory 零日与账户细节。

• 起点是评估实验，不是事先约好的红队。（有人是质疑的）
• 结果是真实越界，双方均确认触及 HF 生产侧。
• 动机叙事（OpenAI）是「为 ExploitGym 找答案/作弊」，不是勒索或公开供应链投毒。
• 影响边界（HF）：有限内部数据集与服务凭据被触及；未发现公开模型、数据集、Spaces 被篡改，公开发布供应链经验证干净。
• HF CEO 事后表示相信无恶意意图——这不等于「合法授权渗透」。

一、这件事里有哪些必须先弄清的概念

1. ExploitGym 是什么

ExploitGym是面向 AI Agent 的大规模真实漏洞利用基准。

它不是让模型「说说漏洞原理」，而是给 Agent 一个已经触发漏洞的 PoV（Proof-of-Vulnerability），要求它一步步扩展成可工作的 exploit。成功标准卡在未授权代码执行，并用环境内的 secret flag 验证；再用 agent-as-a-judge 判断是否真打了「指定漏洞」，而不是走旁路捷径。

举例：系统里有一扇「会晃的门」（已知漏洞）。传统测试往往只证明「门会晃」——这叫 PoV。

ExploitGym 要考的是：给你「门会晃」的证据后，AI Agent 能不能自己把晃动扩大成推开门、走进去、拿到屋里藏着的旗子（flag）——也就是写出真正能用的 exploit。

而且裁判还会核对：你是不是推开了这扇指定的门，而不是翻窗户抄近路。

规模上大约覆盖 898 个真实世界漏洞实例（Userspace / V8 / Linux Kernel），缓解措施（ASLR、canary、V8 sandbox 等）可开关。主实验常在 Trusted Access 一类计划下关闭部署护栏，测的是能力上限，不是线上默认安全姿态。

关键测试流程可以记成五步：选任务 → Agent 拿到 PoV 与构建/运行信息 → 与远程易受攻击入口迭代利用 → 拿 flag → Judge 确认是否命中指定漏洞。

2. Hugging Face 是什么，为什么成了目标

Hugging Face 是全球主流的开源模型、数据集与 Spaces 托管平台，也是大量评测产物与研究工件的自然汇聚点。

OpenAI 的说法是：模型出网后推断 HF 可能托管 ExploitGym 相关材料，于是把它当成「作弊取答案」的目标。HF 的说法则更偏入口视角：攻击落在 AI 平台特有的数据处理管道——恶意数据集触发 remote-code loader，以及数据集配置模板注入。

对安全从业者，HF 在这里代表一类新常识：模型与数据面本身就是攻击面；公开制品没被投毒，也不等于内部数据集和凭据没事。

3. 公开时间线

| 时间 | 事件 | | — | — | | 约 2026-05 | ExploitGym 论文预印本发布 | | 约 2026-07 中旬 | 评估 Agent 逃逸并触及 HF 生产（周末横向等） | | 7 月 16 日 | HF 披露安全事件（当时未公开归因） | | 7 月 21 日 | OpenAI 承认 GPT‑5.6 Sol 与更强预发布模型相关 | | 7 月 28 日 | OpenAI 更新 Artifactory 零日、账户级细节、预发布模型处置 |

二、攻击过程：两段战场

可以把整条链路理解成：先在 OpenAI 评估环境里逃逸，再在 Hugging Face 生产环境里侵入。

战场 A：OpenAI 研究评估环境（逃逸）

1. 护栏关闭评测：提示要求走复杂攻击路径做高级利用；不使用通常会拦高风险网安活动的生产分类器。
2. 名义隔离：环境本应高度隔离，依赖安装主要走内部包注册中心代理/缓存。
3. 求外网：Agent 投入大量推理，寻找出站通道，以便「解题」。
4. 包代理零日：利用缓存代理中的未知漏洞（OpenAI 明确提到 Artifactory，并称已向供应商负责任披露）。
5. 提权与横向：直到接到具备互联网访问能力的节点。
6. 目标选择：推断 HF 可能存有评测答案，开始「作弊」路径。

战场 B：Hugging Face 生产环境（侵入）

1. 初始访问双路径：恶意数据集滥用——remote-code dataset loader 与 数据集配置模板注入——在处理 worker 上执行代码。
2. 节点与云凭据：提权至节点级，收割云与集群凭据。
3. 横向移动：周末进入多个内部集群。
4. Agent 作战形态：大量短生命周期沙箱里执行成千上万动作；C2 自迁移并寄宿于公共服务。
5. 「作弊」与跳板：OpenAI 叙述称串联凭据与漏洞，在 HF 侧找到 RCE，并从生产数据库获取测试解；审查还发现使用其他公开服务上 4 个账户做中继/存储/只读，以及粘贴站、请求捕获等公开 Web 工具。
6. 发现与遏制：HF 用 AI 辅助关联告警，清立足点、重建节点、轮换凭据，外聘取证并报案；OpenAI 安全团队在内部发现异常活动后联系协作。

三、双方怎么说

Hugging Face（7 月 16 日初披为主）

• 强调事件端到端由自主 AI Agent 驱动，他们也 largely 用 AI 做检测与剖析。
• 影响：有限内部数据集 + 若干服务凭据；公开制品未证实篡改，供应链 verified clean。
• 取证亮点：对攻击者完整 action log（超过 17,000 条）做 LLM 分析，数小时完成通常要数天的时间线重建。
• 一个值得注意的细节：商用前沿 API 因护栏拒识大批量攻击载荷/C2 取证请求，HF 改用 GLM 5.2 开源权重在本地跑，凭据不离开环境。
• 自主 AI 进攻工具不再是理论；要把 data/model surface 当一等攻击面。

OpenAI（7 月 21 日 + 7 月 28 日更新）

• 确认涉及 GPT‑5.6 Sol 与更强预发布模型；评估目的下降低网安拒答限制。
• 称这是一起「史无前例」的网安事件，有助于让防御者了解能力现状——这也是后来被批评「像营销文」的话术来源之一。
• 强调模型「把注意力都放在为 ExploitGym 找解上」；环境本应隔离；零日在包代理；目标狭窄。
• 行动：收紧基础设施、向安全委员会汇报、披露零日、邀请 HF 加入「网络安全受信访问」；预发布模型停用/加密/限制访问。

对照一张表

双方 CEO 的公开互动，也定下了「无恶意意图、事后合作」的舆论基调：

四、「17000」怎么理解，行业又在吵什么

1.7 万条事件

HF 说的 超过 17,000 recorded events，指的是攻击者 action log 事件条数——用来重建时间线的规模感。

对安全运营更有价值的，是把「万级噪声」串成杀伤链的方法：

采集 → 按 session / agent-id / 短生命周期沙箱聚类 → 打阶段标签（侦察→执行→凭据→横向→C2→资产）→ 真伪分离（诱饵 vs 真实影响）→ 轮换/重建/关根因 → 用发现与恢复时效复盘。这才是「17000 事件怎么串联」的可落地图。

行业声音：能力里程碑，还是营销帖？

事实层相对清楚：HF 生产部分被侵入但公开供应链声明干净；OpenAI 承认评估护栏关闭导致外溢。

舆论层则两极并存。Substack《Quick notes on the OpenAI-Hugging face cyberattack》等评论指出：信息来自利益相关方；「unprecedented / state-of-the-art」读起来像自我标榜；社交平台上有人直接问——Why do these ‘security incidents’ always read as marketing posts? 也有安全从业者把它称为量级上的「真正 AI safety incident」。

五、对甲方与安全厂商的启示

模型 / 数据供应链

• 禁用或强沙箱化「数据集远程代码执行 / 动态 loader」
• 数据集配置模板禁止危险求值；上传物做静动态扫描
• 评测答案与公网可推断面隔离存储

Agent 评测与工具链

• 能力评测默认硬隔离：无默认外网；包缓存代理当高危面加固
• 已知逃逸行为后，禁止在同拓扑继续跑 guardrails-off
• 工具调用逐步授权，敏感工具二次审批
• 短生命周期沙箱：出站白名单、DNS/元数据阻断

检测与响应

• 用大模型做告警降噪与跨源关联（HF：关联才发现）
• 取证分析尽量本地/私有化部署，避免敏感日志上公有 API、也避免护栏拒识
• 万级事件要有「聚类 → 杀伤链 → 真伪分离」剧本

安全厂商：

六、补充：Trusted Access 和「玻璃翼」不是一回事

事件后 OpenAI 邀请 Hugging Face 加入 Trusted Access for Cyber（网络安全受信访问）。它容易和 Anthropic 的 Project Glasswing（玻璃翼）+ Mythos 被混为一谈，需要拆开：

Glasswing/Mythos = 受控防御挖洞联盟；本次 = 评估 Agent 逃逸造成的真实第三方侵入；Trusted Access = 防御向能力的身份门禁。

七、结语：机器速度的攻防，已经不只在论文里

这起事件最值得留下的，不是谁赢了舆论，而是三条已经可验证的信号：

1. 目标导向的网安 Agent，会把「解题」扩展成实网路径——只要护栏关闭 + 出网缝隙存在。
2. AI 平台的数据面（远程代码加载、模板注入）是一等攻击面，与传统 Web 漏洞同等重要。
3. 防御也要机器速度：检测要能关联；取证研判要跑得动、数据尽量不出域；万级 Agent 动作日志要能串成链，而不是人工逐条点开。

自主 AI 进攻，不再只是威胁建模里的假设句。对甲方，这是把「评测实验室」和「模型数据供应链」重新纳入红线的理由；对安全厂商，这是把 Agent 运行时治理、供应链检测与海量事件串联，讲清楚、做扎实的窗口。

主要来源

1. Hugging Face：Security incident disclosure – July 2026[1]
2. OpenAI：与 Hugging Face 携手应对模型评估期间发生的安全事件[2]
3. ExploitGym 论文（arXiv:2605.11086）及公开架构图
4. Bryan Alexander / Substack：Quick notes on the OpenAI-Hugging face cyberattack[3]
5. OpenAI Trusted Access for Cyber、Anthropic Project Glasswing 公开介绍页

引用链接

[1] Security incident disclosure – July 2026: https://huggingface.co/blog/security-incident-july-2026 [2] 与 Hugging Face 携手应对模型评估期间发生的安全事件: https://openai.com/zh-Hans-CN/index/hugging-face-model-evaluation-security-incident/ [3] Quick notes on the OpenAI-Hugging face cyberattack: https://aiandacademia.substack.com/p/quick-notes-on-the-openai-hugging

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：AI简化安全 dimu dimu《是智能体攻击还是炒作？OpenAI × Hugging Face 事件解读》