文章总结： 2026年全国两会首次明确提出完善人工智能治理，标志AI发展进入安全与创新并重阶段。文章指出AI面临算法黑箱、新型犯罪滥用及数据安全三大挑战，并提出立法、技术与标准三管齐下的治理方案。建议企业建立合规内控与数据保护机制，个人增强防诈意识，强调筑牢安全底线是AI发展的关键。 综合评分： 83 文章分类： AI安全,政策法规,安全建设,数据安全

2026两会重磅信号：AI治理进入”快车道”，安全底线不容突破

长亭安全观察

2026年3月10日 17:00 北京

2026年全国两会上，人工智能再次成为核心热词。与往年相比，今年政府工作报告不仅提出深化拓展“人工智能+”，更是首次明确提出”完善人工智能治理”。这标志着中国AI发展从”技术突破”迈向”安全与创新并重”的新阶段。

01

从”放任”到”治理”，AI安全面临三大挑战

工信部部长李乐成在两会期间明确表示，要坚持人工智能”为人所用、为人服务、为人所控”的原则。这一表述背后，是当前AI技术高速发展带来的安全隐忧。

算法黑箱与责任认定难题。全国人大代表彭凤莲指出，AI治理面临法律责任认定难、算法黑箱导致研发者、平台、使用者责任边界模糊、监管协同不足三大突出问题。AI算法歧视、模型投毒等新型风险不断出现。

新型犯罪与技术滥用。全国人大代表宗强调研发现，利用AI自动生成恶意代码、跨平台AI勒索软件等新型攻击频发，实时语音深度伪造技术使诈骗成功率接近100%。AI数字人直播的虚假宣传、仿冒名人等乱象丛生。

数据安全与隐私风险。全国政协委员、奇安信董事长齐向东警示，企业将高价值数据”喂”给大模型或智能体，一旦应用被攻破，企业核心竞争力可能瞬间化为乌有。大模型、智能体”裸奔”上线，会给攻击者可乘之机。

02

两会开出”药方”：立法+技术+标准三管齐下

面对AI安全挑战，2026两会给出了系统性的治理方案：

立法层面。全国人大常委会工作报告明确提出”加强人工智能等领域立法研究”。多位代表委员建议将《人工智能法》纳入立法规划，构建”三权分置”的数据基础制度，明确AI训练数据的持有权、使用权和经营权。全国人大代表齐秀敏建议针对高风险领域引入强制责任险，对于一般风险采用过错推定原则。

技术层面。全国政协委员、360创始人周鸿祎提出”以模治模”的治理思路，即用AI治理AI。建议由政府部门牵头，制定安全智能体部署指南，在关键信息基础设施、工业互联网等重点领域批量部署具备自动感知、研判、响应能力的安全智能体。

标准层面。全国政协委员吴杰庄建议完善人工智能生成内容标识与追踪机制，明确要求AI生成内容嵌入不可篡改的数字水印，监管部门牵头建立全国统一的AI生成内容溯源查询平台。

03

企业与个人：如何应对AI安全风险？

对企业而言：

1. 建立合规内控机制，针对AI”黑箱”、算法歧视等风险，推动企业建立完善的合规审查体系。
2. 加强数据安全保护，落实个人敏感信息收集”目的明确、路径可溯”要求，建立数据语料来源记录与披露制度。
3. 参与标准制定，在技术标准、接口协议等领域积极发声，避免在标准竞争中被动。

对个人而言：

1. 增强安全意识，警惕AI换脸、深度伪造等新型诈骗手段，不轻易相信未经核实的音视频内容。
2. 关注儿童保护，面向公众的生成式AI产品应提供适龄化的内容过滤功能，家长需加强监护。
3. 依法维权，如遭遇AI侵权，可通过检察机关专业化办案团队等渠道寻求法律救济。

2026两会传递的信号清晰明确：人工智能的发展必须在安全的轨道上，才能行稳致远。在AI技术加速突破的今天，只有筑牢安全底线，才能让人工智能真正成为驱动新质生产力、造福人类福祉的强劲增量。

*本文内容编自网络公开报道

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：长亭安全观察 《2026两会重磅信号：AI治理进入”快车道”，安全底线不容突破》