美创参编|《智能体安全护栏能力要求》发布

admin 2026-11-18 01:42:01 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

美创参编|《智能体安全护栏能力要求》发布

美创资讯

2026年11月17日 08:00
北京

去阅读

近期,由中国信息通信研究院依托中国人工智能产业发展联盟(AIIA)安全治理委员会编制的《智能体安全护栏能力要求》技术规范正式发布,美创科技多位专家参与起草工作。

规范研制

智能体已在企业办公、客户服务、代码开发、数据分析、车载终端等场景应用。任务规划、工具调用与业务系统对接能力在提升效能的同时,也带来提示词泄露、越权冒用、高危不可逆操作、资源消耗劫持等风险,风险正向流程化、链式化演变。传统安全手段难以覆盖智能体运行中的全部风险,安全护栏的能力定义与评价依据仍需进一步明确。

为此,中国信通院发起《智能体安全护栏能力要求》技术规范编制工作。规范面向部署在智能体外围的安全护栏,提出输入防护、决策安全、执行安全、数据与记忆安全、输出安全、系统治理、评估优化等七方面要求,覆盖智能体运行全链路,为安全护栏产品的能力分级、功能完备性与实战有效性提供统一评价依据。

智能体安全护栏能力要求总体架构,图源 CAICT人工智能研究所

产品实践

美创科技于2026年世界互联网大会“互联网之光”博览会期间,正式发布美创AI数据安全一体化平台(AIDSC)。

平台围绕AI数据访问与使用过程,以统一的资产与身份治理厘清责任,以精细化访问和内容防护约束数据使用,以全链路审计与风险处置支撑持续治理,帮助企业将安全要求落实到已接入的智能问数、办公助手和业务智能体场景,为AI应用落地提供数据安全支撑。

美创AI数据安全一体化平台(AIDSC)平台架构

对正在将智能体接入业务系统的政企单位而言,可结合规范要求梳理护栏能力,完善运行时安全防护。

如您正在关注智能体接入业务后的数据权限、工具调用与高危操作管控,欢迎与美创科技交流:

400-811-3777

新品|美创AI数据安全一体化平台AIDSC正式发布

美创数据安全一体化平台:构建“看得见、管得住、防得住”的数据安全体系

高端访谈•美创薛恺|当AI有了“身份”:构建“人机智”三位一体的数据安全新范式

美创数据安全多智体获评「AI Agent标杆产品」:AI重塑数据安全运营闭环

评论:0   参与:  0