解析《智能体规范应用与创新发展实施意见》重构AI时代信任根基

admin 2026-05-11 06:49:23 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 该文档解读了国家网信办等三部门联合印发的《智能体规范应用与创新发展实施意见》,指出政策首次系统布局智能体数字身份与决策边界框架,要求建立智能体注册平台实现身份可信管理,明确用户对智能体决策的最终控制权。针对行为失控风险,提出意图治理新范式,需通过规则内嵌、行为围栏等技术确保AI行为合规。亚信安全提出ATF架构,通过身份可信、意图对齐等六大支柱构建智能体全链路安全防护,助力企业将智能体转化为可靠新质生产力。 综合评分: 85 文章分类: 政策法规,AI安全,安全建设,解决方案,技术标准


cover_image

解析《智能体规范应用与创新发展实施意见》 重构AI时代信任根基

你信任的 你信任的

亚信安全

2026年5月10日 16:28 北京

在小说阅读器读本章

去阅读

近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》)。作为落实国务院”人工智能+”行动的重要举措,该政策首次在国家层面系统布局了智能体的”身份”与”权力”框架,为这一核心难题指明了治理方向。

2026年,中国人工智能市场规模预计突破1.25万亿元(据中商产业研究院),智能体作为大模型落地的核心形态,正加速渗透金融、医疗、政务、能源等关键行业。与此同时,AI安全需求同步井喷——据行业机构测算,2026年中国AI安全市场规模预计突破260亿元,至2030年有望超过850亿元,年复合增长率逾30%。这一背景下,《实施意见》的出台,正当其时。

数字身份:智能互联网的“第一张身份证”

《实施意见》前瞻性地提出“布局发展智能互联网”,研究建立智能互联网体系架构,并明确要求探索建立智能体注册平台,提供智能体数字身份管理、检索发现、能力声明等服务,同时研究智能体身份标识、可信互联等基础技术。

这一部署直指行业的核心挑战:智能体可动态生成、快速流转,如果缺乏唯一的、可溯源的数字身份,传统以人为中心的静态身份体系将难以有效管控权限过度授予、身份冒用等风险。建立“数字身份管理平台”不仅是政策的明确指引,更是智能体实现“持证上岗”的先决条件。

决策边界:厘清权限,守住最终决策权

智能体安全的另一个核心维度是“失控”。《实施意见》明确要求:必须厘清仅限用户本人决策、需由用户授权决策和智能体自主决策的合理边界。

政策强调,要确保用户对智能体自主决策享有“知情权和最终决策权”,智能体执行操作不得超出授权范围。这实际上对技术实现提出了极高要求:如何识别智能体是否产生了偏离预期的行为?如何在不牺牲自动化效率的前提下,将“人”适时引入决策环路(HITL)?

意图治理:防范“行为越界”的新范式

针对《实施意见》中提到的防范“运行失控”与“不当行为”,传统的网络安全防火墙已显得捉襟见肘,因为它们无法理解语义和业务意图。

目前,市场上频繁出现的“龙虾”高危漏洞和恶意插件投毒事件,其本质都是龙虾自身设计上没有考虑企业级身份安全,权限和行为意图的管控。而《实施意见》提出的“规则内嵌”、“行为围栏”、“行为异常检测”等要求,以及“行为可验证、可追溯机制”的监管方向,与此类现实威胁的应对需求高度契合。行业亟需一种能够深植于AI原生基因、实现更深层次约束的治理框架。只有重构了人机协作的信任边界,才能确保智能体在复杂动态的环境中始终与主流价值观及企业意图对齐。

从“工具防护”向“数字生命”, 认知与理念的跃迁

智能体安全的本质已发生根本性跃迁:它不再是单纯的“工具安全”,而是进化为“数字员工”的行为治理。

当智能体能够自主调用 API、读写敏感文件、甚至代表人类进行金融交易时,它就不再是一个受控的程序,而是一个具备高度权限的“数字生命”,这意味着安全边界已经从传统的安全,延伸到了更深层的“语义边界”与“意图边界”。

因此亚信安全认为智能体带来的风险是架构级的挑战。在智能体规模化落地的生产环境中,成千上万的 Agent 动态产生且跨域穿梭,如果仅停留在“封堵漏洞”的旧思维,将永远无法跑赢 AI 的进化速度。安全企业的核心使命必须从“管理账号”升级为“治理链路”,从“封堵威胁”进化为“编织信任”。我们需要在智能体与业务系统之间,建立一套如同法律契约般的信任协议,通过技术手段为“数字员工”划定不可逾越的行为护栏。只有让 AI 的每一个动作都有据可查、每一次决策都符合预期,生产力的飞跃才不会演变为治理的灾难。

ATF架构:重塑 Agentic 安全的六大可信支柱

亚信安全业界首发的数字契约和可信治理框架——ATF(Agent Trust Fabric)。有效呼应了《实施意见》中关于“身份标识”、“自主决策边界”及“行为可追溯”的要求。ATF 架构不再传递传统的“静态钥匙”,而是通过“数字契约”与“可信治理”,构建起一套全链路、体系化的 Agentic 安全防护网:

身份可信: 响应《实施意见》对数字身份管理的要求,ATF 为每一个智能体及插件(MCP)赋予全球唯一的、不可篡改的“数字身份证”,实现非人实体的全域化纳管,解决“它是谁”的根源问题。

意图对齐: 针对智能体自主决策带来的风险,确保智能体的行为目标与人类用户的真实意图及企业策略保持一致,防止目标偏离或被恶意诱导;在意图上进行对齐与防护,确保AI行为在语义上比偏离人类价值。

生成有界: 满足监管要求,防止恶意信息在智能体集群间交叉感染,守住内容合规的底线;做好核心知识资产的保护,不泄露敏感个人数据或者企业秘密。

行为可控: 持续的安全测量和环境验证,对AI的行动和操作过程进行实时监控和干预,确保其行为可控。同时保护既存IT资产,为缺乏应对不可预测Agent行为的旧API和IT资产提供防护。

链路可审:做到全链路AI可追溯性,让人,AI和IT资产进行交互全程审计,满足等保、行业监管与内部审计;此外进行跨域观测跟踪复杂的多代理环境中的身份协作和权限裁剪。

责任可溯:满足《实施意见》中对于“行为可验证、失信可惩戒”的监管闭环。能够有清晰的委托链,实现事故可定责、风险可回溯、合规可举证”,并以此“编织信任”网络,织通全域多源信任,锚定全链责权可溯,为自主智能体的规模化治理提供可信根支撑。

《实施意见》的发布,为智能体的发展划定了跑道,也为安全行业指明了进化的方向。智能体安全不再是一个孤立的技术问题,而是关乎数字化转型能否平稳入局的关键命题。

从“身份可信”到“意图治理”,重构信任边界已成为行业共识。作为深耕网络安全领域的领军企业,亚信安全将持续深耕AI原生安全,通过ATF等创新架构,协助企业在合规的轨道上将智能体转化为真正可靠的“新质生产力”。

往期推荐

了解亚信安全,请点击“阅读原文”

求点赞

求分享

求喜欢


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:亚信安全 你信任的 你信任的《解析《智能体规范应用与创新发展实施意见》 重构AI时代信任根基》

评论:0   参与:  0