文章总结： 赵春江院士在ISC.AI2026指出AI系统安全风险覆盖数据、模型、应用、基础层，多智能体应用带来身份伪造、模型失效等新型风险。他提出五层技术防御框架：数据层实现数据可用不可见，模型层增强鲁棒性，应用层构建零信任架构，检测层强化溯源，基础设施层破解智算云安全。建议选取医疗、金融、政务等领域示范应用。 综合评分： 86 文章分类： AI安全,安全建设,解决方案,数据安全,应用安全

赵春江院士：智能体安全风险持续涌现，应搭建五层技术防御体系

内生安全联盟

2026年7月5日 11:00 江苏

在小说阅读器读本章

去阅读

中国工程院院士、中国人工智能学会副理事长赵春江近日在第十四届互联网安全大会（ISC.AI 2026）上表示，当前，人工智能在金融、政务、服务、物流等服务业领域渗透较快，在实体经济领域的应用仍需进一步加强，安全问题的重要性愈发凸显。

“AI系统安全风险覆盖数据层、模型层、应用层、基础层四大维度。”赵春江认为，随着2025年多智能体开启商业化应用、2026年应用更加广泛，新型风险持续涌现：身份伪造、模型失效、权限管理漏洞与通信劫持、恶意勒索、提示、注入与越狱、会话、劫持与控制缺失等问题凸显；同时还存在人工智能驱动的隐含数据挖掘、模型训练数据投毒等风险，对模型精度与决策可靠性形成冲击。

“在当前的背景下，我们要加强主动防御，从被动到主动的免疫角度来考虑，能够有效提高未来整个系统的安全。”赵春江说。

针对人工智能背景下的安全新变化，赵春江提出构建五层技术防御框架：第一是数据层：聚焦实现数据“可用、不可见”，通过隐私计算、联邦学习、数据清洗、权限管理等技术手段筑牢数据安全防线；第二是模型层：着力增强模型鲁棒性，依托对抗训练、安全对齐、高强度红队测试、价值导向引导等方式，从源头提升模型安全性能；第三是应用层：构建零信任安全架构，实施动态访问管控；第四是检测层：强化全链路溯源能力，运用深维检测、多模态分析、数字水印、内容鉴真等技术实现风险精准识别与追溯；第五是基础设施层：重点破解智算云安全问题。

赵春江建议，在未来，遵循网络安全框架，选取医疗、金融、政务等重点领域开展安全防护技术示范性应用，验证防护措施成效，以点带面推动行业整体安全能力提升。

来源：光明网

重磅申报开启：2026年南京市数字经济（网络安全）工程中级专业技术资格评审申报开始了！

欢迎报名！“联盟货架” 征集工作正式启动

聚力协同发展 | 中国质量认证中心有限公司南京分公司正式加入联盟，成为副理事长单位

2026-06-17

携手共建产业生态 | 紫光恒越正式升级联盟副理事长单位

2026-06-18

| 往期回顾

AI4E如何重构数字生态系统网络发展范式？

资料下载 | 十五五规划建议全文及说明

《科技日报》整版访谈邬江兴院士：将“安全基因”植入人工智能系统

里程碑时刻：智己LS9 Hyper搭载原创内生安全技术

Gartner：2026年网络安全八大趋势

“十五五”时期如何一体推进教育科技人才发展

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：内生安全联盟 《赵春江院士：智能体安全风险持续涌现，应搭建五层技术防御体系》