文章总结： HuggingFace披露遭AI智能体攻击，攻击者利用恶意数据集触发代码执行窃取云凭证。事件响应中，美国模型因安全护栏受限，中国模型GLM5.2成功完成分析。建议政企机构建设本地前沿模型以规避安全限制并防止数据外流。 综合评分： 85 文章分类： AI安全,安全运营,威胁情报,应急响应,红队

AI攻击真实案例验证：中国模型比美国模型更适合做网络防御

安全内参编译 安全内参编译

安全内参

2026年7月21日 17:32 北京

在小说阅读器读本章

去阅读

关注我们

带你读懂网络安全

知名AI代码平台Hugging Face披露遭遇一起AI智能体攻击事件，该智能体利用恶意数据集触发代码执行，成功获取云环境权限，窃取了内部数据集和凭证等；

Hugging Face表示，其利用AI进行安全响应分析，美国模型因触发安全护栏无法使用，转而使用本地部署的中国模型完成了分析；

Hugging Face建议，（非美欧核心的大型）政企机构应建设本地前沿模型，避免安全护栏限制和敏感数据外流。

前情回顾·AI时代如何强化网络防御

• OpenAI秘密开发大模型超级黑客，攻击成功率高达84%
• “金鹰计划”启动：美国政府依托前沿AI构建漏洞发现与修复协同体系
• 英国拟打造AI驱动的“网络盾牌”以强化国家级网络防御
• 为国护网！这家公司要用超级AI保护3000家主要关基设施企业

安全内参7月21日消息，知名人工智能代码托管平台Hugging Face披露，攻击者利用一个自主AI智能体系统攻破了其生产基础设施，随后获取了内部数据集和凭证。

Hugging Face是一个开源AI和机器学习平台，提供来自领先AI供应商的超过4.5万个模型，目前已有超过5万家组织使用该平台。

该公司正在调查合作伙伴或客户数据是否受到影响，并表示将直接联系任何受影响的当事方。Hugging Face称，截至目前，没有发现任何公开模型、数据集或空间（Spaces）遭到篡改的证据，其软件供应链也已“确认未受污染”。

利用恶意数据集触发代码执行，

成功窃取云环境权限

此次入侵始于Hugging Face的数据处理流水线。攻击者利用一个恶意数据集，成功触发了两个代码执行漏洞，并在一台工作处理节点上执行了代码。借此，攻击者窃取了云环境和集群凭证，进而在多个内部集群之间横向移动。

Hugging Face表示：“此次攻击活动由一个自主智能体框架实施，该框架似乎构建于一个面向安全研究的智能体测试框架之上，所使用的大模型目前仍未知。该框架在由大量短时沙箱组成的集群中执行了数千次独立操作，并将可自迁移的命令与控制（C2）基础设施部署在公共服务之上。”

在上周四发布的事件通报中，Hugging Face指出：“这一情况与业界此前预测的‘智能体攻击者’场景高度吻合。”

为应对此次入侵，Hugging Face已关闭存在漏洞的代码执行路径，包括数据集配置中的模板注入漏洞以及远程代码数据集加载器，将攻击者逐出系统，重建了受影响节点，并吊销和轮换了所有受影响的凭证。

该公司还部署了更完善的恶意活动检测系统，已向执法部门报告此次事件，并正与外部数字取证专家合作评估此次入侵造成的影响。

中国模型比美国模型更适合做网络防御

Hugging Face表示：“我们尚不清楚攻击者的AI智能体由哪种模型驱动，无论是经过越狱的托管模型，还是不受限制的开放权重模型。但无论哪一种，攻击者都不受任何使用政策的约束，而我们最初尝试用于数字取证工作的托管模型，却因其安全护栏机制而无法完成分析。”

Hugging Face称，其自身的异常检测系统发现了此次攻击，并利用一个AI模型分析了记录此次网络攻击全过程的服务器日志。

该公司表示，最初使用的是某家商业AI提供商的前沿AI模型，但未透露具体公司名称。然而，分析工作因该提供商的安全护栏机制而受阻，无法继续。为此，公司改用了自行部署的本地大模型GLM 5.2，并表示这样做还有一个额外好处：无需将包含敏感信息的攻击日志上传至AI公司的服务器。

安全研究人员此前就曾抱怨，像Anthropic的Mythos和Fable这样的前沿模型，受到的限制过于严格，几乎不让防御人员查询任何与网络安全相关的内容，哪怕只是出于防御或事件调查的目的。

包括Anthropic在内的前沿AI模型开发商，因担忧这些模型可能被用于实施攻击性网络攻击，而与特朗普政府产生了分歧。美国政府随后对这些模型实施出口管制，Anthropic甚至被迫停止向公众提供Fable。

AI驱动防御更需要本地前沿模型

Hugging Face表示：“对于防御方而言，一个切实可行的经验是：在事件发生之前，就应准备好一个经过验证、能够在自身基础设施上运行的高能力模型。这样既可以避免因安全护栏而无法开展分析，也能防止攻击者的数据和凭证离开自身环境。”

Hugging Face建议用户轮换访问令牌，并检查近期账号活动是否存在可疑行为迹象，同时表示将继续分享有关如何防御AI驱动攻击的研究发现。

虽然这是首起与AI智能体相关、影响该平台的安全事件，但并非Hugging Face近年来首次披露遭遇入侵。

两年前，黑客攻破其Spaces平台后，该公司曾吊销部分成员的认证密钥，并建议他们改用细粒度访问令牌。

近年来，威胁行为者还一直滥用该平台传播恶意AI/ML模型、信息窃取恶意软件，并散布数千种安卓恶意软件变种。

参考资料：bleepingcomputer.com

推荐阅读

• 网安智库平台长期招聘兼职研究员
• 欢迎加入“安全内参热点讨论群”

点击下方卡片关注我们，

带你一起读懂网络安全 ↓

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全内参 安全内参编译 安全内参编译《AI攻击真实案例验证：中国模型比美国模型更适合做网络防御》