文章总结： 该文档探讨人工智能时代网络空间风险治理的新变革，指出AI技术深度嵌入使网络空间运行逻辑从信息交互转向智能行动空间，风险生成方式发生根本改变，内容识别、行为处置和风险溯源难度显著上升。文章强调需要加强网络空间国际治理，推动跨境风险协同防控、规则衔接和技术权力平衡，并提出治理重心应前移、注重链条化协同和秩序塑造的建议。 综合评分： 85 文章分类： 网络安全,AI安全,政策法规,解决方案,安全运营

专家观点 | 人工智能时代网络空间风险治理新变革

蔡翠红 蔡翠红

中国信息安全

2026年6月30日 18:04 北京

在小说阅读器读本章

去阅读

文 | 复旦大学国际问题研究院教授 蔡翠红

人工智能时代，网络空间的运行逻辑、风险形态和责任链条正在发生深刻变化。生成式人工智能、算法推荐和智能体系统深度嵌入网络空间，使许多问题超出单一国家、单一平台和单一环节的治理范围。加强网络空间国际治理，成为应对技术变革、维护网络空间安全稳定的重要课题。

网络空间运行逻辑发生深刻变化。人工智能深度嵌入网络空间，正在推动网络空间由人生产内容、平台组织传播、用户参与互动的信息交互空间，转向人机共同参与、算法持续驱动、行动自动生成的智能行动空间。过去，网络空间更多被理解为信息发布、传递和交互的场所，人工智能时代，模型、算法和智能体开始深度参与内容生产、任务执行和影响扩散，网络空间越来越成为内容生成行为的重要土壤。这种运行逻辑的变化主要体现在三个方面。一是行动来源更加多元。许多内容和操作可能由模型和智能体参与生成。二是行动过程更为动态。算法推荐、用户反馈和模型迭代会不断改变信息传播和行为扩散路径，使网络行为呈现持续演化特征。三是权力结构深度嵌入技术体系。模型能力、算法规则、平台接口和算力资源都可能影响网络行为的生成和扩散。由此可见，人工智能已经深度嵌入网络空间的内容生产、行为组织和影响分配之中，成为理解网络空间治理变化的重要背景。

网络空间风险生成方式发生根本改变。过去，网络空间治理较多围绕内容发布、平台传播和事后处置等环节展开。人工智能时代，模型可以参与内容生产，智能体可以执行任务，算法可以持续放大影响，网络风险由此变得更难识别、更难处置，也更难追责。一是内容识别难度上升。生成式人工智能可以快速生成文字、图片和音视频，使虚假信息、深度伪造、诈骗话术更接近真实表达。网络治理面对的已不只是删除虚假有害内容，还要判断内容是否由人工智能生成、是否经过伪造、是否被有组织地放大。这使网络空间治理的前端识别和精准处置难度明显上升。二是行为处置难度上升。智能体系统可以根据目标设定调用工具、执行任务并调整策略，网络攻击、跨境诈骗、虚假账号运营等行为可能呈现更强的自动化和隐蔽性。传统依靠事后发现、人工审核、单点处置的治理方式，越来越难以及时覆盖完整风险链条。三是风险溯源难度上升。人工智能驱动的网络风险，可能同时涉及模型服务、平台传播、用户互动和损害结果等多个环节。不同环节相互连接、相互放大，使风险来源、行为主体、扩散路径和损害后果更难准确界定。网络空间治理面对的是贯穿生成、传播、扩散全过程的复杂风险。

人工智能时代，网络空间风险生成方式的变化使网络空间风险更容易跨境外溢，单一国家难以独立完成风险防控、责任协调和技术权力失衡防范，网络空间国际治理的重要性进一步凸显。一是跨境风险链条延长，需要通过网络空间国际治理提升共同防控能力。人工智能驱动的网络风险，在内容生成与传播中不断被扩散和放大，单一国家依靠事后处置，难以覆盖完整风险链条。加强网络空间国际治理，有助于推动跨境风险识别、预警和处置协同，提升国际社会共同维护网络空间安全的能力。二是规则脱节导致跨境治理碎片化，有赖于通过网络空间国际治理加强责任协调。人工智能驱动的网络行为，可能同时涉及数据、模型、平台、用户和损害结果等多个环节，责任识别、证据获取、管辖衔接和执法合作更加复杂。若各国规则彼此脱节，容易出现规则冲突、执法叠加、责任真空。加强网络空间国际治理，有助于推动基本规则衔接、责任合理分担和跨境执法合作，避免技术高度互联与治理高度割裂之间的矛盾持续扩大。三是技术权力失衡已成现实，需要通过网络空间国际治理维护发展中国家的利益。人工智能时代，网络空间权力越来越嵌入模型能力、数据资源、算力基础设施和平台生态之中。少数技术领先国家和大型科技企业若长期掌握这些关键节点，就可能把技术优势转化为规则优势、标准优势和结构性权力。加强网络空间国际治理，有助于防止关键技术节点被少数主体垄断，维护各国特别是发展中国家平等参与网络空间发展的权利。

网络空间风险治理应更加主动适应人工智能时代新变化。治理重心上，更加重视风险生成前端，加强人工智能内容生成、模型应用和平台传播等环节的识别预警。治理方式上，更加重视链条化协同，推动各国在责任分担、证据协作、执法合作和规则衔接方面加强沟通。治理目标上，在强化风险管控的同时更加注重秩序塑造，防止技术优势固化为规则优势，确保各国平等参与网络空间发展，为营造清朗有序的网络空间提供更加稳定的国际环境。

（来源：学习时报）

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：中国信息安全 蔡翠红 蔡翠红《专家观点 | 人工智能时代网络空间风险治理新变革》