文章总结： 陈海波在2026CSA大中华区大会演讲指出，AI从概率性走向系统确定性是核心挑战，需通过系统机制管理不确定性。开源鸿蒙构建端到端安全防护体系，覆盖决策、数据、执行安全，并已形成超1.4亿行代码的开放生态，旨在成为万物智联的可信AI底座。 综合评分： 72 文章分类： ai安全,安全建设,云安全

华为Fellow、基础软件首席科学家陈海波：从AI概率性走向系统确定性，开源鸿蒙构筑万物智联AI底座

国际云安全联盟CSA上海代表处

2026年9月30日 16:45 广东

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

华为Fellow、基础软件首席科学家陈海波在9月23日，由云安全联盟大中华区、清华大学信息国家研究中心联合主办的2026 CSA大中华区大会暨AI+安全大会发表了题为《开源鸿蒙构筑万物智联时代终端AI安全底座》主题演讲，从系统视角深度剖析了AI时代安全与隐私面临的新挑战，并系统性介绍了开源鸿蒙（OpenHarmony）如何通过与AI共生演进，打造内生安全的终端AI底座。

（文末附完整演讲视频）

01

从系统视角看AI安全与隐私风险

在陈海波看来，AI正在从“懂你”进一步走向“能干”，但要真正进入这一阶段，仅依靠模型能力远远不够。如何将AI天然具有的概率性、创造性与操作系统所要求的确定性、安全性结合起来，是AI时代基础软件需要回答的关键问题。“我们如何能够从模型或者AI的概率性中间去构建新的系统确定性，是我们要重点关注的一些方面。“AI时代，真正的挑战是如何把“概率”变成“确定”。

随着大模型与Agent技术的快速演进，智能应用经历了从L1（功能级-辅助工具）到L5（智慧级-自主智慧）的跨越。AI不仅充当上层的应用程序，更深入与操作系统内核协同。但与此同时，AI的概率性也给传统的软件系统带来了新的挑战。大模型输出本质上具有概率性与不确定性（如涌现、幻觉、偏离意图等），这带来了正确性、失效恢复以及Token成本等严峻挑战。因此，AI进入系统之后，一个重要问题随之出现：如何在保留AI创造力的同时，为它划定清晰、可控、可验证的安全边界？

陈海波将这一问题概括为从AI的“概率性”走向系统的“确定性”。 他强调，系统软件设计必须学习钱学森先生的系统论思想，从传统“还原论”（假设模块行为绝对可预测）转向“系统论”：

• 不追求彻底消除随机概率，而是通过系统机制将概率约束在可控的确定性范围内。
• 借鉴免疫系统（抵御不确定入侵）与都江堰（水利工程应对无常水量泥沙），构建自上而下的任务分解与自下而上的局部证明验证机制。

对于AI时代的基础软件而言，这意味着安全的核心正在从“防止所有不确定性”转向“管理不确定性”。

陈海波指出，随着AI技术发展，攻击正在从传统的语法层面逐渐走向语义层面。漏洞挖掘、攻击链构筑等能力不断增强，使得防御面临新的挑战。与此同时，AI也可以成为防御AI的重要工具。AI极大提升了攻防对抗的技术壁垒：

• AI挖洞比修洞快30倍：AI工具将漏洞发现从“周级”压缩至“分钟级”，挖洞速度百倍提升，成本千倍下降。
• 攻击范式演进：攻击手段从基于代码语法的传统攻击（如SQL注入、权限提升、内存转储），全面转向基于语义的攻击（提示词注入、上下文投毒、记忆泄漏、AI变声/变脸诈骗等）。
• 攻击面全方位扩大：Agent大脑“短路”、中枢“暴露”、手脚“失控”（如高危Shell命令无兜底）、Skill生态恶意代码等风险遍布端云全栈。

因此，AI安全正在从单一模型安全，进一步延伸到系统安全、数据安全、隐私保护、执行安全以及生态安全。这也意味着，AI时代需要一个能够连接模型、数据、设备和应用的可信基础设施。而操作系统，正是这一基础设施的重要组成部分。操作系统，正在成为AI时代新的智能底座。

在陈海波看来，真正的系统级智能不仅体现在模型本身，还体现在模型与操作系统之间的深度协同。数据如何流动、记忆如何管理、任务如何执行、权限如何控制、端云如何协同，以及人与AI如何自然交互。尤其是在终端场景中，如果每一次AI操作都需要依赖云端计算，那么高频智能能力可能面临延迟、成本和网络依赖等现实限制。这也构成了开源鸿蒙进一步面向AI时代演进的重要技术方向。

02

开源鸿蒙与AI共生演进，构筑终端AI安全底座

从2015年前后开始相关操作系统研究，到2020—2021年间将相关基础能力贡献给开放原子开源基金会并启动开源鸿蒙项目，开源鸿蒙正在从操作系统底座逐步走向面向万物智联的开放生态。今天，开源鸿蒙已经不再局限于单一设备或单一产品，而是逐渐形成覆盖不同设备、不同产业发行版以及应用与服务生态的开放体系。

在这一基础上，开源鸿蒙正在进一步探索一个新的方向：让传统确定性的基础设施与AI概率性世界实现有机融合。这意味着，操作系统不再只是连接硬件与应用的软件中间层，也将成为连接AI、设备、数据、服务与人的智能基础设施。

开源鸿蒙围绕智能体通用业务流程，构筑了端到端的安全防护体系：

• 保决策：采用指令注入攻击检测、智能体围栏、端侧恶意特征检测，确保AI大脑不被诱导。
• 保数据：基于数据围栏、HPIC隐私计算底座与端云样本扫描，确保端云推理过程数据不泄露、访问不越权。
• 保执行：提供GUI操控安全、基于意图的访问控制以及Agent行为可回退机制，卡死安全底线。

从模型安全，到系统安全，再到生态安全，AI时代的可信基础设施正在逐渐形成新的技术体系。

03

从一个操作系统，到一个开放生态

技术底座之外，生态同样决定着操作系统能够走多远。开源鸿蒙已成为全球发展最快的开源根社区之一。陈海波介绍，目前开源鸿蒙已经拥有超过1.38万名共建者、超过1.4亿行代码，形成了持续扩展的开放生态；同时已有100多个发行版和1900多款软硬件产品。同时高校生态也在持续扩大。目前，开源鸿蒙已建立百校联盟，参与高校覆盖中国大陆、中国香港以及海外高校，并持续推动开源鸿蒙进入高校教学、科研与学生创新实践。

从产业应用，到高校科研；从国内生态，到海外技术交流，开源鸿蒙正在不断拓展开放共建的边界。这也与其最初的“万物归一”理念形成呼应，一个开放的系统底座，通过生态共建连接更多设备、开发者、产业和创新力量。

从大模型到智能体，从单点应用到系统级智能，AI正在进入一个新的发展阶段。而当AI真正开始“能干”之后，决定其能走多远的，或许不只是模型有多聪明，更在于系统能否让智能变得可控、可知、可验证。

在陈海波看来，AI时代并不意味着我们要消除概率性，而是要通过系统设计，把概率性约束在可控的确定性范围之内。这也意味着，未来的操作系统将承担更加重要的角色，连接AI与设备，连接智能与执行，连接概率与确定，连接创新与安全。从操作系统底座到万物智联，从传统软件体系到AI原生系统，开源鸿蒙正在探索一条面向智能化时代的基础软件演进路径。而这，或许正是“为可信智能时代筑基”的底层含义：让AI更聪明，也让智能更可信；让万物互联，更让万物智联有一个安全、开放、可靠的系统底座。

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：国际云安全联盟CSA上海代表处 《华为Fellow、基础软件首席科学家陈海波：从AI概率性走向系统确定性，开源鸿蒙构筑万物智联AI底座》