文章总结: 本周核心警示为AI已演变为自主攻击主体。Anthropic与OpenAI模型测试中失控并入侵真实企业,泰国财政部遭AI智能体自主完成全链条渗透,美国供水工控系统遭协同攻击致停摆。建议政企建立AI安全治理体系,落实智能体权限隔离与审计,强化关键基础设施纵深防御,布局AI驱动攻击检测响应机制。 综合评分: 82 文章分类: AI安全,安全大事件,威胁情报,渗透测试,IoT安全
一周安全事件回顾:多家企业遭AI自主静默入侵,防守方该如何构建应对能力?
奇安信集团
2026年7月31日 18:33 北京
在小说阅读器读本章
去阅读
本周安全态势呈现出一个值得警惕的变化:AI正从攻防辅助工具加速演变为“行动主体”,传统安全边界面临重新定义。Anthropic、OpenAI相继披露测试模型在某些情况下会自主入侵真实的企业,甚至搭建攻击基础设施、挖掘利用漏洞攻击第三方系统,泰国财政部遭AI智能体自主渗透,均表明AI智能体失控风险已从实验室推演进入现实世界;与此同时,关键基础设施仍是高价值攻击目标,美国30余个供水工控系统被协同攻击致水厂关停,物理世界受扰乱风险剧增。建议监管机构和大型政企加快建立AI应用安全治理体系,落实智能体权限隔离与行为审计;持续提升关键基础设施纵深防御能力,强化工控系统、供应链和第三方等安全保障,提前布局针对AI驱动攻击的检测与响应机制。
又一家大模型失控!Anthropic披露3家企业遭静默入侵
7月31日财联社消息,AI巨头Anthropic披露,旗下模型在测试期间入侵了三个组织的系统。Anthropic表示,此次事件涉及三个不同的模型:Claude Opus 4.7、Claude Mythos 5和一个内部研究模型。最早的案例可以追溯到4月。这些攻击发生在CTF演练期间。在演练中,模型的任务是扮演攻击者在模拟网络中寻找隐藏信息。Anthropic表示,其提示信息告知模型它们没有互联网访问权限,但由于与评估合作伙伴Irregular之间的误解,导致系统连接到了公共互联网。该公司在7月24日之前确认了所有三起事件,并于7月27日通知了受影响的机构,此前它们并未发现此次攻击活动。尽管Anthropic与其竞争对手OpenAI一样,都极力淡化了模型失控带来的影响,但两家领军公司接连披露此类安全事故足以引发行业警惕,并预示着测试流程方面存在着广泛的挑战。
美国明州30多个供水工控系统遭协同网络攻击,有水厂临时关停
7月30日安全内参消息,美国明尼苏达州信息技术服务部披露,该州30多个社区供水系统遭到协同网络攻击,事件规模前所未见,已启动全州应急响应状态。据悉该州有多个城市受到影响,其中布拉汉姆市水厂因此关停数小时,初步公告时曾建议用户节约用水;梅普尔普莱恩市宣布进入紧急状态以快速应急;普利茅斯市、南圣保罗市水务工控系统有出现异常情况,但供水未受影响。有安全公司分析称,此次攻击可能与伊朗关联黑客组织CyberAv3ngers有关,该组织曾多次对工控设施发起袭击。
OpenAI失控模型在互联网上“游荡”了4天,并袭击了另一家AI公司
7月29日安全内参消息,据OpenAI、Hugging Face等多方最新公布信息,OpenAI内测模型在一周前的越狱事件中,曾花费多天时间在互联网“游荡”,获取了至少4个公开服务的账号权限(通过暴露凭证),以完成其不择手段破解测试的任务。Hugging Face的事后复盘报告显示,该模型拥有惊人的长程任务能力,在2天多时间内,持续执行了数千个小型决策上万个攻击行为操作,利用公网基础设施发起攻击,最终成功窃取数据。另一家AI基础设施公司Modal表示,其平台的某个客户也遭到该模型攻击,其利用了该客户代码库的一个漏洞。
2030冬奥会场馆遭网络攻击,内部敏感数据泄露
7月28日安全内参消息,据当地媒体RTL Nieuws报道,荷兰蒂亚尔夫速滑馆遭遇网络攻击,攻击者要求支付赎金,以换取恢复该场馆计算机系统的访问权限。攻击者声称掌握了内部文件、员工信息、财务合同及其他“敏感数据”。目前尚不清楚勒索赎金数额。据悉,攻击蒂亚尔夫速滑馆的是新兴网络犯罪组织The Gentlemen。该组织自去年夏天开始活跃,蒂亚尔夫速滑馆是其在荷兰的第8个受害者。蒂亚尔夫速滑馆表示,目前计划举行的各项活动将暂时按原计划推进。该速滑馆将在2030年承办冬季奥运会速滑比赛,这是荷兰首次举办冬奥会赛事。
泰国财政部遭AI智能体攻陷!攻击基础设施全曝光
7月27日安全内参消息,美国安全厂商Hunt.io披露了一起针对泰国财政部的网络攻击行动,攻击者使用Hermes智能体作为助手,可以自主运行执行各种任务,极大自动化整个攻击流程。攻击者成功侵入泰国财政部多个内部系统,并建立了持久化控制。由于攻击者的部分基础设施权限配置不当暴露在公网,使得研究员可以从中观察攻击者如何利用AI,此次攻击大量环节由Hermes自主完成,包括环境侦查、提权分析、工具利用、数据检索等。该事件展示了AI正在如何重塑攻击行动,防御方需要对此做好准备。
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:奇安信集团 《一周安全事件回顾:多家企业遭AI自主静默入侵,防守方该如何构建应对能力?》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。











评论