文章总结： 2025国际人工智能安全大会指出当前治理面临政策细则缺失、法律滞后及技术迭代不匹配等挑战。建议制定场景化风险评估与操作规范，构建分级分类治理架构，推动政企社协同，将AI安全治理从宏观有效下沉至具体应用场景，平衡创新与安全。 综合评分： 88 文章分类： AI安全,政策法规,安全建设,技术标准

2025国际前瞻人工智能安全与治理大会观察和思考：推动人工智能安全治理下沉落实到应用场景安全治理

内生安全联盟

2026年1月27日 15:45 江苏

以下文章来源于天翼智库 ，作者占安居 马战凯

天翼智库 .

天翼智库是中国电信研究院战略发展研究所承办的面向公众的智库研究信息发布平台，为您提供最新信息通信行业发展动态、政策观察、产业分析和战略洞察等。

10月30日，2025年国际前瞻人工智能安全与治理大会在北京召开。来自北京大学、中国信通院、奇安信等产学研界的专家，围绕人工智能安全与治理的产业实践进行交流探讨。前瞻研究院联合多家单位发布的《人工智能模型安全评估与产业实践报告》，系统总结了2025年度人工智能模型安全评估的阶段性成果，报告基于自主研发的攻防评估平台与安全测评基准，完成对主流大语言模型的红队测试与系统化安全评估，形成覆盖攻防算法、防御验证与风险量化的全链路安全治理体系，为政府监管、行业应用与标准制定提供支撑。在本届大会上，北京人工智能产业联盟牵头发布《北京人工智能安全治理案例集》，案例集旨在广泛凝聚人工智能安全治理的社会智慧，分享人工智能安全治理的实践成果。从大会的研讨内容和发布的成果可以观察到，目前人工智能安全治理需要解决难以下沉落实的问题，人工智能的产学研各界正在努力推动人工智能安全治理下沉落实到应用场景安全治理。

2025国际前瞻人工智能安全与治理大会观察

根据2025国际前瞻人工智能安全与治理大会的观察，结合当前人工智能安全治理的现状，目前人工智能安全治理存在的问题主要包括缺乏针对不同场景需求的实施细则、法律法规的相对稳定性和滞后性与技术迭代创新速度不匹配、高标准多样化的场景治理导致AI应用遭遇创新与安全的平衡难题。

1.政策法规难以落实到场景治理，缺乏针对不同场景需求的实施细则

现有人工智能安全治理政策和法律规范多为宏观性和原则性表述，与实际应用场景的需求对接不上，缺乏针对不同场景需求的实施细则。2025年国际前瞻人工智能安全与治理大会发布的《人工智能模型安全评估与产业实践报告》制定了大模型在主要场景的安全评估测试标准，把大模型的法规落实到具体的场景并有量化的实施指标，但是难以覆盖到多行业多场景的具体的安全治理。

2.法律法规的稳定性和滞后性与场景要求的技术迭代创新速度不匹配

法律法规的相对稳定性和滞后性与场景要求的AI技术快速迭代创新速度之间不匹配。法律规范制定往往需要较长的周期，是一个需要充分论证、多方博弈、程序严谨的线性过程。场景驱动的AI技术快速发展演进，导致法律法规滞后于技术发展。对此问题确实很难有一个动态万能的解决办法。2025年国际前瞻人工智能安全与治理大会上北京人工智能产业联盟发布的《北京人工智能治理案例集》，旨在通过案例的办法在动态实践中实时总结，尽最大努力解决法律法规的稳定性和滞后性与场景要求的技术迭代创新速度不匹配的问题。

3.高标准、多样化的场景治理导致AI应用遭遇创新与安全的平衡难题

2025国际前瞻人工智能安全与治理大会的努力和成果主要解决的是技术和业务层面的问题。但是AI应用涉及医疗、交通、金融等多个对安全治理要求非常高的领域，监管机构为防范AI在关键领域带来的社会风险，倾向于对具体应用场景实施严格管控。高标准、多样化的场景治理导致企业面临极其高昂的合规成本。例如，特斯拉的合规成本约占年收入的4%，主要用于自动驾驶认证、本地数据中心治理等。场景治理在面临合规成本高的情况下，企业的技术和产品迭代创新受阻，创新空间受限。AI场景治理遭遇创新与安全的平衡难题。

2025国际前瞻人工智能安全与治理大会思考

根据2025国际前瞻人工智能安全与治理大会的观察到的人工智能安全治理存在的问题，结合人工智能安全治理的现状，提出下列对于人工智能安全治理下沉落实到场景治理的思考。

1.根据政策法规与应用场景需求制定承上启下、落地可操作的规范细则

一是建立场景化风险评估与实施细则。制定出台人工智能应用场景风险评估框架相关的细则，提供可量化的评估指标。2025年国际前瞻人工智能安全与治理大会发布的《人工智能模型安全评估与产业实践报告》，旨在通过系统化的测试与监控，为模型安全与伦理合规提供量化依据；二是制定技术性标准与测试方法。例如：自动驾驶的安全检测应使用哪些检测指标、测试数据集的构成要求、可接受的偏差阈值等。三是制定数据治理与隐私保护的操作规程。制定数据标注与质量控制规范，规定标注人员的资质、标注过程的审核机制、数据偏差的检测方法。

2.推动人工智能面向应用场景安全治理的规范细则在宏观政策法规指导下进行系统性、多层次、分级分类实施

建立“分级分类”和“标准先行”双轮驱动的治理架构。由国家主管部门发布风险分类框架，明确各场景的监管强度和治理细则。联合行业协会、技术联盟，优先在医疗、交通、金融、招聘等高风险领域制定技术标准和操作指南，作为法规的补充和细化。2025年国际前瞻人工智能安全与治理大会上北京人工智能产业联盟发布的《北京人工智能治理案例集》，通过总结和推广优秀治理经验，帮助行业提升治理水平。

3.创新场景治理模式，构建场景治理与技术创新协同的人工智能安全治理生态

一是政府应发挥顶层设计与规则引领作用，制定场景化风险分类标准和基础性规范；二是企业建立内部AI伦理委员会、实施全生命周期影响评估、落实算法审计与数据治理，将治理内化为管理流程；三是第三方机构应发展专业的AI审计、认证与评估服务，提供独立、客观的技术验证，弥补监管能力不足。形成政府引导、企业履责、技术支撑、社会监督的良性生态。2025年国际前瞻人工智能安全与治理大会促成了“北京市通用人工智能产业创新伙伴计划安全与治理能力建设网络”的启动，旨在汇聚产学研各方力量，形成开放协同的安全治理生态。

本文作者

占安居

战略发展研究所

分析师

硕士研究生，副研究员。主要从事行业研究、市场研究、产业生态研究等工作。

马战凯

战略发展研究所

副主任分析师

复旦大学MBA硕士，长期从事通信产业市场研究、商业模式研究等工作，近年来专注人工智能、人形机器人、工业软件、数字化转型等领域研究，有着非常丰富的实战经验和研究积累。

王江

战略发展研究所

助理分析师

就职于中国电信研究院，具有多年通信行业营销经验，长期从事电信产品商业模式、客户体验等研究，近来专注于人工智能等领域。

廖文凯

战略发展研究所

专业首席分析师

硕士研究生，战略发展研究所产数发展研究中心，主要从事信息化规划咨询与产业经济研究。

来源：天翼智库

  —  热点文章  —

邬江兴院士——携手建设人工智能时代中国学派 走出不同于西方的人工智能安全治理新路径

第五届网络空间内生安全学术大会发布“AI+生态构建八大安全挑战”

第五届网络空间内生安全学术大会在宁开幕——聚焦AI安全可信应用  为“AI+”产业保驾护航

持续赋能内生安全！第五届网络空间内生安全学术大会暨第八届“强网”拟态防御国际精英挑战赛完美收官

巅峰对决，硬核启幕！第八届“强网”拟态防御国际精英挑战赛正式打响

2025-11-26

第五届网络空间内生安全学术大会－数字生态供应链安全论坛成功举办

2025-12-01

南京紫金山实验室6G安全技术研究斩获新突破

2025-11-30

蓝皮书下载 | 第五届网络空间内生安全学术大会，四本蓝皮书重磅发布

2025-12-05

热点聚焦

HOT！！

邬江兴院士：AI内生安全问题及可信应用系统研究

征稿启事 | 16个热点问题，欢迎来稿！

新书出版 | 邬江兴院士发布最新英文著作

可信内生安全、变结构拟态计算技术等入选“新一代信息工程科技新质生产力技术备选清单（2024）”

迎接网络韧性新时代！第四届网络空间内生安全学术大会暨第七届“强网”拟态防御国际精英挑战赛完美收官

蓝皮书下载 | 第四届网络空间内生安全学术大会，五本蓝皮书重磅发布

正式发布！网络空间内生安全理论和标准体系入选信息通信领域十大科技进展（附手册）

递交2025网信生态高质量发展“开年答卷”  网络通信安全融合生态创新发展大会在宁举行

邬江兴院士为五色石先导班学生授课

邬江兴院士——AI时代内生安全自主知识体系建设的思考

出版啦！南京市网络空间内生安全协会5项团体标准在中国标准出版社正式出版

邬江兴院士 | 破击美欧网络弹性铁幕——基于自主知识技术体系的数字生态系统底层驱动范式变革

喜报！南京市网络空间内生安全协会获评为AAAA等级社会组织！

重磅活动

征集令！“2025年网络空间内生安全优秀案例征集”活动正式启动！

| 往期回顾

AI4E如何重构数字生态系统网络发展范式？

资料下载 | 十五五规划建议全文及说明

邬江兴院士提出“时空协同复杂度”理论——揭秘介观尺度智能涌现机理引领AI架构革新

2026 AI安全十大预测发布：提示注入成首要威胁，全球进入“AI原生”防御元年

聊聊信息安全、网络安全和数据安全三个概念

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：内生安全联盟 《2025国际前瞻人工智能安全与治理大会观察和思考：推动人工智能安全治理下沉落实到应用场景安全治理》