文章总结: 中国信通院启动首批可信AI云智能体交互安全能力评估,聚焦身份与访问控制。该评估旨在应对权限滥用及隐私泄露风险,涵盖身份标识、凭证管理及审计追溯等维度。通过以评促建,帮助服务商提升产品安全成熟度与竞争力,推动建立统一的安全规范与行业标准。 综合评分: 75 文章分类: AI安全,技术标准,政策法规,云安全,解决方案
中国信通院【首批】可信AI云 智能体交互安全能力评估 第1部分:身份与访问控制正式启动!
可信安全
2026年2月2日 08:02 北京
前言
随着大模型技术的飞速跨越,智能体(AI Agent)正加速重塑行业格局。成为行业发展的重要方向。从“打开App操作”向“AI代办”的演进中,自然交互成为核心趋势。然而,机遇与挑战并存。一方面,智能体为实现跨应用调度需获取超普通应用的系统级权限,暴露出权限边界模糊带来的应用冲突风险;另一方面,权限滥用可能引发隐私泄露、公平性失衡等问题。用户对数据处理方式、权限让渡范围的知情权与追溯权难以保障,业界已出现对隐私保护、黄牛式抢单等问题的广泛担忧。
当前行业缺乏统一的授权规范与治理框架,不同企业的智能体权限管理标准不一。智能体的健康发展亟需建立统一的安全规范,明确智能体权限获取的边界与流程,平衡技术创新与安全治理。在此背景下,中国信通院牵头编写《可信AI云 智能体交互安全 第1部分:身份与访问控制安全要求》标准,并启动【首批】可信AI云 智能体交互安全能力评估 第1部分:身份与访问控制。
【首批】可信AI云 智能体交互安全能力评估 第1部分:身份与访问控制介绍
评估针对智能体及应用展开,主要包括智能体交互身份安全要求、智能体交互访问控制安全要求、身份标识安全、身份凭证生命周期管理、身份认证审计与追溯。
评估价值
全面评估产品能力,提升技术成熟度
通过对智能体交互身份安全要求、智能体交互访问控制安全要求、身份标识安全、身份凭证生命周期管理、身份认证审计与追溯等关键要求的系统化评估,帮助智能体及应用服务商全面掌握自身产品在实际应用场景下的真实能力与成熟水平,为持续优化和迭代提供参照。
驱动产品优化升级,增强市场竞争力
通过以评促建,服务商能够精准发现产品短板,有针对性地完善产品功能与管理流程,持续提升智能体交互安全防护的效能与体系化能力,进一步增强产品在行业中的竞争优势。
促进创新应用落地,优化用户服务体验
基于评估结果,智能体及应用服务商可不断创新产品能力建设,打造更智能化、个性化的解决方案,持续优化用户服务体验、提升业务效能。
面向对象
智能体,涵盖参与交互行为的智能体实体,包括但不限于与目标对象存在数据交互、指令传达、业务协同的系统级智能体与应用级智能体;
应用,涵盖与智能体产生交互链路的应用实体,包括但不限于与智能体进行数据互通、指令响应、功能联动的独立应用程序、移动APP、第三方插件及轻量化服务模块。
标准体系简介:可信AI云 智能体交互安全要求系列标准
《可信AI云 智能体交互安全 第1部分 身份与访问控制安全要求》
《可信AI云 智能体交互安全 第2部分 用户个人信息和权益保护要求》(拟)
……
前期工作
✦
1、首批参与单位公示!“智能体交互安全工作组”筹备成立
2、可信AI云 智能体交互安全系列标准讨论会暨智能体交互安全工作组成立筹备会在京成功召开!
3、重磅!“云上大模型安全推进方阵”成员单位第一批&第二批结果公布!
4、重磅!中国信通院“可信AI云”安全系列评估一览!
5、《云上智能体安全发展研究报告》重磅发布!
6、2025“人工智能+”产业生态大会——人工智能与安全论坛成功召开!共筑安全新生态
业务联系人
马铭洋 | 开源和软件安全部
云计算与大数据研究所 | 中国信息通信研究院
邮箱:[email protected]
电话:18600235069
卫 斌 | 开源和软件安全部 副主任
云计算与大数据研究所 | 中国信息通信研究院
邮箱:[email protected]
电话:18618259777
长按二维码关注
链接云端,可信而安
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:可信安全 《中国信通院【首批】可信AI云 智能体交互安全能力评估 第1部分:身份与访问控制正式启动!》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。








评论