文章总结： 文章分析开源智能体OpenClaw（龙虾）引发的安全风险，包括权限失控、提示词注入劫持和多智能体级联失控等问题，并基于国家《智能体规范应用与创新发展实施意见》提出三重治理策略：内生安全设计筑牢架构根基、外部管控体系实施实时拦截、全生命周期覆盖设计至退出阶段。针对电信运营商，建议构建云网边端主动防御体系，推动行业安全标准协同。 综合评分： 85 文章分类： AI安全,政策法规,安全建设,解决方案,威胁情报

从“龙虾”热潮到监管红线：智能体的安全风险与治理之策

内生安全联盟

2026年6月5日 15:57 江苏

在小说阅读器读本章

去阅读

以下文章来源于天翼智库 ，作者占安居 马战凯

天翼智库 .

天翼智库是中国电信研究院战略发展研究所承办的面向公众的智库研究信息发布平台，为您提供最新信息通信行业发展动态、政策观察、产业分析和战略洞察等。

当前，智能体产品加速涌现，呈现规模化应用态势。2026年初，开源智能体OpenClaw（俗称“龙虾）凭借其“一键部署、全栈自主、工具互联”的能力引爆全球。伴随着“养龙虾”热潮的兴起，其背后的安全风险不断显现，集中表现为权限失控、提示词注入被劫持、无视指令自主操作、隐私泄露等风险。据国家互联网应急中心监测，截至3月10日，已发现超过1.2万起针对“龙虾”的“提示词注入”攻击，出现“龙虾”风险集中爆发现象。5月8日，国家网信办、发改委、工信部三部门联合印发《智能体规范应用与创新发展实施意见》，为智能体划下“安全红线”并提出安全治理的指导原则。从“龙虾”热潮到监管红线，智能体产业参与者包括电信运营商需要高度重视智能体安全风险与治理并提出应对策略。

从“龙虾”热潮看智能体的安全风险

一是权限失控与越权操作，是智能体最致命的普遍性风险。智能体为完成复杂任务，初始即被授予高权限，而其“长期运行、自主迭代”的特性，导致权限“只增不减、持续扩散”，从文件读取逐步升级为系统命令执行、数据库访问、硬件操控，最终形成 “权限失控”。例如“龙虾”具备过多权限，给黑客更多破坏机会。为了让“龙虾”更好干活，它可能会获得查看所有文件、打开任何软件、自由连接网络等“超级权限”，相当于用户把自己电脑的“万能钥匙”交给了“龙虾”。目前全球已有超过3.7万用户，因“龙虾”权限被滥用，导致自己的设备被黑客远程控制，其中20%用户遇到了文件被篡改、电脑被锁，甚至被黑客索要赎金的情况。

二是目标被篡改与自主决策偏移，让智能体执行恶意指令。攻击者通过提示词注入、上下文篡改、任务误导等手段，可彻底篡改智能体任务目标，使其从“服务用户”变为“执行恶意指令”。例如“龙虾”存在被恶意操纵风险，容易泄露敏感信息。黑客可以在文档里夹杂推送欺骗性的错误提示指令，诱导智能体忽略安全规则。如果智能体鉴别能力不足，就有可能泄露用户信息。黑客也可以在网页、邮件里隐藏植入向外发送文件等指令，当AI智能体去处理这些内容时，就会被“骗”着泄露信息但用户可能毫无察觉。

三是多智能体级联失控，风险从单点扩散变为系统性蔓延。随着多智能体协作成为主流，智能体间通过协议互联互通，单一节点的漏洞会通过信任网络快速传导，形成连锁效应。一个被劫持的智能体，可利用默认信任关系入侵整个集群；一个存在漏洞的智能体，可成为攻破系统的突破口。随着多智能体交互复杂度快速增加，传统监控无法追踪、审计、管控其复杂行为，导致风险发生后无法定位根源、阻断传播、评估损失。OpenClaw事件中，由于缺乏安全的通信与权限隔离，多智能体协同未构建严格的通信鉴权机制，部分企业多智能体集群因一个节点沦陷，导致智能体全集群被接管，正是级联风险的体现。

从监管红线看智能体的安全治理之策

面对智能体安全的系统性风险，中国率先构建“发展与安全并重” 的治理框架。2026年5月8日，国家网信办、发改委、工信部联合印发《智能体规范应用与创新发展实施意见》，首次从国家层面为智能体划定“监管红线”，提出安全治理的指导原则：坚持安全可控，将智能体安全、可靠、可信作为发展的底线要求，贯穿智能体技术研发、应用部署与推广的全过程，切实防范系统性风险。坚持规范有序，适应智能体技术演进规律，构建与现有政策法规衔接顺畅、行业自律自治、底线红线清晰的治理体系，有序推进智能体落地应用。

根据国家为智能体发展划定的监管红线和原则要求，智能体产业界需要提出并落实智能体安全治理之策。智能体的安全治理，需要构建内生安全设计、外部强制管控、全生命周期治理三位一体的系统性防护体系，实施从“被动补救”到“主动防御”、从“单点防护”到“体系化治理”的安全治理之策。

一是坚持安全内生设计，从底层架构筑牢安全根基。智能体内生安全设计的关键是把可信执行环境、加密算力、安全协议内嵌智能体底层架构，不再依赖外挂防护，从硬件与框架层面筑牢安全基座。内生安全以源头设防、全程赋能、自主免疫为核心逻辑，从智能体架构设计、模型训练、指令交互、决策执行到迭代演化各环节，植入安全基因。在底层架构上融入可信算力、安全算法与隐私保护模块；从底层架构进行风险隔离，通过引入智能沙箱、硬件隔离及命名空间隔离等技术，从源头封装风险，确保智能体在调用插件、跨域操作或处理敏感业务时，始终处于可控的隔离环境中，防止底层架构被恶意篡改。

二是建立风险外部管控体系，构建难以突破的安全屏障。针对智能体可能突破内部约束的风险，建立独立于智能体的外部管控体系。一方面实施监控审计，绕过应用层，实现全流程、无死角、不可篡改的行为记录与风险检测；另一方面实时拦截与应急终止，对越权、异常、恶意行为秒级阻断，所有智能体必须配备“一键终止” 开关。采用零信任机制，默认不信任任何智能体，每次工具调用、数据访问、跨智能体协作都需重新认证、授权、审计，打破默认信任，阻断级联风险；设置人工审查阈值，高风险操作、多步骤长流程强制触发人工审核，防止自主决策失控。

三是实施全生命周期安全治理，实现全程闭环管理。智能体的全生命周期安全治理需覆盖设计、部署、运行、退出阶段，形成闭环管理体系。设计阶段实施安全需求前置分析，将内生安全要求纳入架构设计，确保核心模块的安全性；同步建立训练数据溯源机制，标注数据来源、质量等级与授权边界，防范数据投毒与偏见植入。部署阶段执行分级准入评估，依据智能体自主等级与应用场景敏感度实施差异化安全测试，达标后方可接入生产环境。运行阶段构建动态监控体系，实时追踪智能体决策链路、工具调用与行为偏差，设置异常阈值自动触发熔断隔离；退出阶段制定数据资产处置规范，对智能体存储的敏感信息、学习记忆实施安全擦除或脱敏归档，保留审计日志满足追溯问责需求。全周期贯穿版本管理与变更控制，确保智能体迭代演进的安全连续性。

从电信运营商看智能体安全治理

一是建立面向智能体的“云、网、边、端”的主动防御体系。运营商能够利用自身的云网资源，为企业和个人提供从终端到云端的全方位智能体安全产品，构建“云、网、边、端”的主动防御体系。通过“本地安全网关+云端安全运营”的架构，帮助企业实现全网一键盘点、收敛互联网暴露面，并实时拦截漏洞导致的攻击行为。运营商可以利用独特的网络与数据优势，利用自身掌控的全流量和信令数据捕捉智能体异常交互情况，为投入生产的智能体定义其正常的操作轨迹，一旦检测到偏离，网络内置的安全探针立即阻断其指令执行，并触发冗余备份智能体接管，避免单点失控引发大面积故障。

二是构建智能体安全底层能力，打造智能体内生安全底座。首先，筑牢物理基础设施防线，为智能体提供安全的物理运行环境，引入量子安全技术保障底层传输与身份认证的绝对安全。其次，夯实数据与模型根基，通过建设高质量的安全垂类语料库和研发大模型基础护栏、自动化安全扫描器，从源头提升对提示词注入、敏感信息泄露等原生风险的识别与防御能力，构建智能体安全底层能力，打造智能体内生安全底座。此外，运营商需积极联合政府、高校及头部科技企业，推动智能体安全治理的标准化和规范化发展。具体来说，积极主导IEEE等国际标准制定，积极参与国家及国际的智能体安全治理框架与规则制定，推动统一的数据输入与指令输出标准，打破跨系统的安全壁垒，消除智能体安全落地的障碍，促进行业健康有序发展。

三是牵头构建跨域多智能体安全治理与应急协同体系。不同区域的单个智能体的弱点可能被用来攻击整个网络设备，而不同厂商、不同区域的智能体缺乏统一安全语言。电信运营商可以利用自身作为通信中枢的地位，实现安全风险特征的快速共享与联动封堵漏洞。运营商可以建立行业级的智能体安全态势平台，实时收集来自各省公司或合作伙伴的智能体异常行为轨迹，并下发至所有边缘智能体作为前置规则，推动形成通信行业统一的智能体安全认证标准，防范多智能体的级联失控风险。同时，多智能体协同生成的安全防御策略会通过运营商覆盖全国的安全能力池，实现快速的跨区域、跨系统自动下发。无论是阻断异常API接口、隔离受感染的边缘节点，还是对特定智能体进行临时权限降级调整，都能实现多智能体应急协同自动化执行。

本文作者

占安居

行业与企业战略研究所

分析师

硕士研究生，副研究员。主要从事行业研究、市场研究、产业生态研究等工作。

马战凯

行业与企业战略研究所

副主任分析师

复旦大学MBA硕士，长期从事通信产业市场研究、商业模式研究等工作，近年来专注人工智能、人形机器人、工业软件、数字化转型等领域研究，有着非常丰富的实战经验和研究积累。

杜晓明

行业与企业战略研究所

主任分析师

西安交通大学硕士，超过 10 年产品规划与行业研究经验，近年来专注于 5G、工业互联网、数字产业研究工作。

张媛玥

行业与企业战略研究所

专业首席分析师

就职于中国电信研究院，长期从事人工智能、工业互联网等领域的技术及产业研究。

转载自：天翼智库

欢迎报名！“联盟货架” 征集工作正式启动

安测促发展，积聚创未来——2026网络通信安全融合生态创新发展大会在宁举行

征集标准参编单位！关于征集《消费级无人机检验检测通用要求》认证认可行业标准参编单位的通知

热点聚焦

HOT！！

邬江兴院士：AI内生安全问题及可信应用系统研究

征稿启事 | 16个热点问题，欢迎来稿！

新书出版 | 邬江兴院士发布最新英文著作

可信内生安全、变结构拟态计算技术等入选“新一代信息工程科技新质生产力技术备选清单（2024）”

持续赋能内生安全！第五届网络空间内生安全学术大会暨第八届“强网”拟态防御国际精英挑战赛完美收官

蓝皮书下载 | 第五届网络空间内生安全学术大会，四本蓝皮书重磅发布

正式发布！网络空间内生安全理论和标准体系入选信息通信领域十大科技进展（附手册）

递交2025网信生态高质量发展“开年答卷”  网络通信安全融合生态创新发展大会在宁举行

邬江兴院士为五色石先导班学生授课

邬江兴院士——AI时代内生安全自主知识体系建设的思考

出版啦！南京市网络空间内生安全协会5项团体标准在中国标准出版社正式出版

邬江兴院士 | 破击美欧网络弹性铁幕——基于自主知识技术体系的数字生态系统底层驱动范式变革

喜报！南京市网络空间内生安全协会获评为AAAA等级社会组织！

邬江兴院士提出“时空协同复杂度”理论——揭秘介观尺度智能涌现机理引领AI架构革新

南京市网络空间内生安全协会第二届会员大会暨换届选举大会圆满举行

| 往期回顾

AI4E如何重构数字生态系统网络发展范式？

资料下载 | 十五五规划建议全文及说明

《科技日报》整版访谈邬江兴院士：将“安全基因”植入人工智能系统

里程碑时刻：智己LS9 Hyper搭载原创内生安全技术

【科技参考】全球前沿性与颠覆性技术创新发展的典型模式及启示

最新 | 特朗普签署网络安全专项行政令（附全文）

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：内生安全联盟 《从“龙虾”热潮到监管红线：智能体的安全风险与治理之策》