前沿 | 国际人工智能治理新趋势对国家安全的影响及应对策略
吴凯莉等
吴凯莉等
中国信息安全
2026年11月17日 18:12
北京
去阅读
吴凯莉
文 | 浙江省质量科学研究院(之江质量与标准化智库)、国家市场监督管理总局技术创新中心(市场监管数字化研究与应用) 吴凯莉 李文雨泽 张哿 林斌;浙江省人民政府咨询委员会 徐志宏\*
当前,人工智能(AI)治理已成为塑造未来产业竞争优势、维护国家安全和公共利益的重要议题。近期,美国、英国、新加坡等国家聚焦AI智能体、生成式AI测试、前沿模型评估等重点方向,密集出台多项举措,推动国际人工智能治理由原则倡议向测试验证、行为约束和体系化部署加速演进。该趋势既重塑了全球人工智能产业生态体系、安全治理框架和国际规则竞争格局,也对我国关键领域安全运行、产业链供应链韧性及国际规则话语权产生深层次影响。对此,我国亟须加强国际人工智能治理趋势研判,加快构建自主可控、可信可管、协同高效的人工智能安全治理体系。
一、
国际人工智能治理演进呈现新趋势
随着人工智能技术能力边界的持续拓展和应用场景的不断延伸,国际人工智能治理正由早期的伦理原则、风险框架和自律倡议,逐步转向更具操作性的制度安排和技术工具,推动治理体系向更精准、更实证、更系统的方向演进。
(一)治理重心由“内容生成”向“自主行动”拓展
伴随着AI从生成文本、图片、视频等内容,进一步发展为可自主完成任务规划、工具调用、交易撮合、价格调整等智能系统,国际人工智能治理关注重点正在从“模型输出是否合规”拓展至“智能行为是否可控、操作权限是否清晰、执行过程是否可追溯、责任主体是否可界定”。
2026年1月,新加坡资讯通信媒体发展局发布面向智能体的人工智能治理框架,提出企业部署智能体应明确权限边界、保留人为监督并落实责任归属。2026年2月,美国国家标准与技术研究院(NIST)启动“AI智能体标准倡议”(AIAgent Standards Initiative),将智能体安全运行、身份识别、协议互操作和工具调用纳入治理议程。2026年3月,英国数字监管合作论坛发布《2026代理型AI的未来:前瞻报告》,从消费者权益、市场竞争、数据保护和网络安全等角度提示智能体风险,重点关注智能体可能产生的误导性输出、诱导消费、算法合谋和隐性定价等问题。相关举措表明,国际AI治理正由“管内容”逐步拓展至“管行为、管过程、管责任”。
(二)治理工具由“原则倡议”向“测试验证”深化
随着大模型能力快速提升,单纯依靠企业承诺和事后问责已难以支撑前沿模型风险识别和高风险场景部署决策,基准评测、对抗性验证、发布前评估、能力分级和持续监测等测试验证手段逐步成为治理工具。国际社会正在将抽象治理要求转化为可测试、可比较、可验证的技术机制,推动人工智能治理从“提出原则”进入“验证能力、识别风险、支撑准入”的新阶段。
由英国科学、创新与技术部(DSIT)牵头发布的《2026年国际人工智能安全报告》显示,基准评测、对抗性验证、发布前评估等测试测评手段,正在成为识别前沿模型风险、支撑政策制定和推动国际协作的重要基础。2026年4月,新加坡向国际标准化组织提出生成式AI系统测试方法国际标准提案,重点聚焦基准测试和对抗性安全测试,推动提升测试结果的可重复性和可比性。2026年5月,美国国家标准与技术研究院下属人工智能标准与创新中心(CAISI)与谷歌深度思维(Google DeepMind)、微软(Microsoft)、xAI签署协议,围绕前沿AI模型开展发布前国家安全测试和能力评估。这一系列举措表明,测试验证能力正从产业配套工具上升为国际AI治理规则落地、风险识别和责任判定的重要基础。
(三)治理范围由“单点应用”向“体系部署”升级
随着人工智能加快进入公共安全、政务服务、产业运行等高敏感场景,国际人工智能治理正从单个模型、单项工具和局部应用,向算力、数据、模型、安全、场景和治理机制一体化部署拓展。相关治理实践不再只关注某一类模型或某一个应用是否合规,而是更加重视数据安全、权限控制、身份标识、结果复核、责任追溯和应急处置等全流程管理,推动人工智能应用从“局部试点”走向“体系化部署”。
从各国实践看,2026年3月,美国商务部启动“美国AI出口计划”,面向产业联合体征集全栈人工智能方案,将优化硬件、数据中心、基础模型、网络安全和行业应用打包推进,体现出通过全栈方案输出人工智能技术和治理能力的政策导向。2026年4月,新加坡内政科技局与法国Mistral AI开展公共安全AI合作,将视频流智能分析、机器人AI集成、智能体工作流、高性能推理和微调基础设施等纳入合作范围。相关动态表明,国际人工智能治理实践正由单一模型治理、单点应用管理向体系化部署、全流程管控和安全可信运行转变。
二、
治理新趋势下对国家安全的深层影响
国际人工智能治理规则加快落地,推动人工智能安全问题从技术合规议题上升为国家安全议题,亟须从国家安全视角进行系统研判。
(一)智能体自主行动能力增强,管理者安全管控风险凸显
随着人工智能治理重心由“内容生成”向“自主行动”拓展,AI风险正从“生成错误信息”延伸为“触发错误操作”“执行错误行为”。AI智能体具备任务规划、工具调用、系统操作等能力,未来可能广泛接入政务服务、金融交易、医疗健康、公共安全等关键领域,成为连接算法模型与现实业务系统的重要接口。一方面,智能体深度接入关键领域业务系统,可能放大关键信息基础设施运行风险。如果缺乏严格的身份认证、权限隔离和最小授权机制,智能体可能形成新的高权限入口,通过越权调用、错误决策、异常执行等方式影响关键系统稳定性和公共服务连续性。另一方面,智能体行为链条更长、参与主体更多,可能加大责任追溯和应急处置难度。其运行过程涉及模型开发者、应用部署者、平台运营者和终端用户等多方主体,一旦缺少完整日志记录、人工复核节点和责任闭环机制,容易出现过程难还原、责任难界定、处置难及时等问题。对我国而言,随着智能体逐步进入复杂业务场景,其自主决策、工具调用和跨系统协同能力不断增强,监管者对其运行过程、权限边界和行为后果的识别与管控难度随之上升。对此,需要进一步强化智能体安全评估、权限管理、过程监测和责任追溯,提升监管的及时性、精准性和有效性。
(二)测试验证治理规则逐渐成型,安全评测与规则主导权博弈升级
随着治理工具由“原则倡议”向“测试验证”深化,国际AI治理正从制度设计转向以基准测试、安全验证、发布前评估、能力分级为支撑的实证治理阶段。未来,人工智能系统“是否安全、是否可信、能否部署”,将越来越依赖测试方法、评估指标、数据集、认证规则和结果解释机制。一方面,测试验证能力不足可能影响我国高风险场景人工智能应用的安全部署。前沿模型和智能体系统具有能力涌现、行为不确定、场景适配复杂等特征,如果我国在前沿模型能力评估、智能体安全测试、对抗性安全验证、高风险场景适配评测等方面能力储备不足,可能难以及时识别模型幻觉、越权执行、工具滥用、数据泄露等风险。另一方面,国际测试认证体系加速成型,可能使我国在规则主导权和市场准入中陷入被动。相关规则一旦成为事实上的国际市场准入门槛,我国人工智能产品和服务出海将面临他国主导的评测标准、认证要求和合规成本。从更深层次看,国际评测体系还可能嵌入特定技术路线、治理理念和价值偏好,影响我国人工智能治理主动权、产业竞争力和国际规则话语权。
(三)全栈式人工智能治理生态加速形成,全球产业链安全格局面临重构
随着治理范围由“单点应用”向“体系部署”升级,全球人工智能竞争正从单一模型能力比拼,转向算力芯片、数据中心、基础模型、开发框架、网络安全、行业应用、运维治理等全链条能力竞争。一些国家推动全栈式AI方案输出,将硬件设备、云服务、基础模型、安全工具、行业解决方案和治理规则打包推进,实质上是在人工智能时代重塑技术生态、产业依赖和规则秩序。一方面,关键技术体系和基础设施竞争加剧,可能影响我国人工智能产业链供应链安全。如果高端芯片、核心算法框架、模型开发平台、云服务架构、安全评测工具等关键环节存在外部依赖,在外部技术限制、供应链调整或生态封锁情况下,可能削弱我国人工智能技术迭代、场景部署和安全运维能力。另一方面,外部全栈方案和生态标准加速输出,可能形成新的技术依赖和规则壁垒。相关方案一旦进入公共安全、城市治理、能源交通、工业生产等敏感领域,可能带来数据跨境流动、远程运维控制、供应链后门、安全审计不透明等隐患,也可能通过接口标准、安全认证和治理规则压缩我国企业国际竞争空间。人工智能体系化部署能力,将直接关系我国产业安全、数字安全和发展主动权。
三、
提升我国人工智能安全治理能力的应对之策
面对国际人工智能治理演进带来的安全风险,我国应坚持发展和安全并重,统筹技术创新、产业发展、风险防控和规则塑造,推动人工智能治理从内容合规向行为安全、能力验证和体系防护延伸。重点围绕智能体分级分类治理、安全评测验证能力建设、全栈安全治理体系构建等方面补齐短板,提升人工智能关键领域应用安全水平、产业链供应链韧性和国际规则参与能力。
(一)建立面向智能体的分级分类治理机制,强化行为安全和责任闭环
针对AI智能体自主行为引发的新型安全风险,我国需进一步建立面向智能体的分级分类治理机制,推动治理重点从内容合规向行为安全、权限管理和责任闭环拓展。一是建立AI智能体应用分级备案制度。借鉴国际治理经验,在现有算法和生成式AI备案制度基础上,延伸建立AI智能体应用分级备案制度,重点审查工具调用范围、任务场景、权限等级及高风险操作限制措施,对金融交易、合同缔约等高风险智能体实施强制备案,对信息查询等低风险智能体采用简化登记模式。二是推行“操作权限清单+人工确认节点”双重管控模式。依托技术手段划定智能体权限范围,针对资金划转、合同签署等不可逆的高风险操作,设置独立人工二次确认环节,牢牢把控决策关口。三是建立智能体动态报备与风险退出机制。要求企业在智能体功能升级、权限扩展、应用场景变化时及时上报,同步完善风险预警机制和常态化风险处置流程,防范智能体违规运行影响关键信息基础设施安全。
(二)建设国家级人工智能安全评测验证平台,推动治理从原则性要求向测试验证落地
顺应国际人工智能治理向“测试验证”深化的发展趋势,我国需加快打造国家级人工智能安全评测验证平台,推动治理要求从原则性规范转化为可测量、可验证、可执行的技术机制。一是制定AI智能体专项评测标准。结合国内应用实际制定AI智能体专项评测标准,重点围绕自主决策、工具调用、多智能体交互等核心风险开展测评。二是健全全流程安全验证机制。建立研发审查、上线测试、动态监控相结合的全流程验证机制,将第三方安全评测结果作为AI产品准入审核、备案管理和高风险场景部署的重要参考依据,从源头防范安全隐患。同步建立评测结果复核、问题整改和跟踪复测机制,推动安全评测由一次性把关向持续性验证延伸。三是完善操作日志审计制度。明确日志需完整记录工具调用、系统操作、人机确认、推理过程等内容,高风险操作日志延长留存时限,同时运用数字签名、哈希链等技术保障日志防篡改,为监管执法与责任认定提供有效支撑。
(三)构建全栈安全治理体系,实现人工智能应用可信、可控、可追溯
结合全球AI体系化部署的发展特征,我国需统筹算力、模型、数据、平台、应用和安全能力建设,加快构建覆盖全链条、贯穿全生命周期、支撑跨主体协同的全栈安全治理体系,推动AI应用从研发部署到运行处置全程可信、可控、可追溯。一是探索建立统一的AI身份管理体系。在现有AI内容标识制度之上,建立统一的智能体身份标识与跨平台凭证核验机制,推动智能体在工具调用、交易执行等关键环节主动披露身份,筑牢可信交互基础。二是细化产业链各方权责。明确底层模型提供者、应用开发者、部署运营者及终端用户的责任边界,建立覆盖模型研发、系统集成、场景部署和运行维护的全链条安全管理体系。三是健全人工智能全生命周期安全管控机制。将安全评估、动态监测、风险预警、应急处置等要求,贯穿AI研发、训练、部署、运行、更新直至下线的全部环节,同步加强AI安全治理人才队伍和技术支撑能力建设,牢牢掌握人工智能安全发展的主动权。
四、
结 语
随着人工智能从内容生成工具向具备自主规划、任务执行和跨系统协同能力的智能体演进,国际竞争已由单一技术能力比拼拓展至安全治理能力、产业生态组织能力和国际规则塑造能力的综合竞争。面向未来,我国人工智能安全治理需要在已有实践基础上持续深化,构建全栈安全治理评估机制,对关键环节自主可控水平进行量化评价,推动形成技术创新、安全保障和规则引领协同发展的治理体系。(徐志宏系本文通信作者)
(本文刊登于《中国信息安全》杂志2026年第9期)
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。








评论