文章总结： HuggingFace平台遭自主AI代理系统攻击，攻击者利用恶意数据集通过代码执行路径获取初始访问权限，随后提升权限并横向移动。平台已修复漏洞并建议用户轮换令牌。防御者应准备高能力模型用于取证分析。 综合评分： 85 文章分类： 漏洞分析,威胁情报,应急响应,AI安全,安全运营

全球最大的AI模型仓库 Hugging Face 遭自动化AI代理系统攻陷

Ravie Lakshmanan Ravie Lakshmanan

代码卫士

2026年7月20日 16:32 北京

在小说阅读器读本章

去阅读

  聚焦源代码安全，网罗国内外最新资讯！

编译：代码卫士

开源人工智能平台Hugging Face透露称，该平台遭受了一次由自主AI代理系统发起的黑客攻击。

该公司表示，上周早些时候检测并响应了针对生产基础设施的安全事件，“我们发现了一些内部数据集以及部分服务所用凭据遭未经授权访问。”

虽然对该入侵事件的调查仍在进行中，但 Hugging Face 表示，尚未发现任何证据表明该 AI 代理篡改了面向用户的公共模型、数据集或 Spaces，也未影响自身的软件供应链。

此次攻击的起点是数据处理管道本身。一个恶意数据集滥用了两个代码执行路径，分别是其远程代码数据集加载器和数据集配置中的模板注入，在处理工作节点上执行代码。据称借助该访问权限，威胁行动者将权限提升至节点级访问，收集了云和集群凭据，并在一个周末内横向移动进入了多个内部集群。

目前尚不清楚该攻击的实施具体使用了哪个大语言模型，但攻击由一个自主代理框架执行，该框架“在大量短暂的沙箱中执行了数千次独立操作，并通过公共服务上分阶段部署的自迁移命令与控制（C2）机制进行协调”。

Hugging Face 表示，此后已解决该问题的根本原因，即用于初始访问的代码执行路径。同时还采取了以下修复措施：

• 移除了攻击者在受影响集群中的据点，并重建了受感染的节点。
• 撤销并轮换了受影响的凭证和令牌，并作为预防措施进行了更广泛的密钥轮换。
• 在集群上部署了额外的防护措施和更严格的准入控制。
• 改进了检测和告警机制，确保响应人员在数分钟内收到通知，且 7×24 小时全天候。

作为进一步的安全保障措施，Hugging Face 敦促客户轮换访问令牌并检查账户的近期活动。该公司还表示，在西方前沿模型因安全护栏被触发而拒绝包含真实攻击命令、漏洞利用载荷和命令与控制（C2）工件的请求，且无法区分攻击者与合法事件响应行为之后，该公司转而使用 Z.ai 公司的 GLM 5.2进行了取证分析。

Hugging Face 提到，“这次经历表明存在一个值得提前规划的能力缺口，我们不清楚攻击者使用的代理是由哪个模型驱动的——是被越狱的托管模型还是不受限制的开放权重模型；无论哪种情况，攻击者都不受任何使用策略的约束，而我们自己的取证工作却被我们最初尝试使用的托管模型的安全机制所阻挡。对防御者的实际启示是：在事件发生之前，准备一个经过审查且能够在自己基础设施上运行的高能力模型，既是为了避免被安全机制锁住，也是为了确保攻击者数据和凭证不会泄露到环境之外。”

开源卫士试用地址：https://oss.qianxin.com/#/login

代码卫士试用地址：https://sast.qianxin.com/#/login

推荐阅读

Hugging Face Spaces 平台的认证令牌被盗

Hugging Face 等AI即服务平台易受严重漏洞影响，遭AI供应链攻击

GitLost：诱骗 GitHub AI 代理泄露私有仓库

老把戏，新靶心：Bash 正威胁 AI 编程代理供应链安全

原文链接

https://thehackernews.com/2026/07/new-wp2shell-wordpress-core-flaw-lets.html

题图：Pixabay License

本文由奇安信编译，不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。

奇安信代码卫士 (codesafe)

国内首个专注于软件开发安全的产品线。

    觉得不错，就点个 “在看” 或 “赞” 吧~

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：代码卫士 Ravie Lakshmanan Ravie Lakshmanan《全球最大的AI模型仓库 Hugging Face 遭自动化AI代理系统攻陷》