兰德智库观点：真正的 AI 风险，不在奇点，而在前沿之外

原创

赛博研究院
赛博研究院

赛博研究院

2026年11月4日 19:22
上海

去阅读

2026年，全球AI政策讨论的焦点，大多聚焦于少数顶尖实验室的前沿基础模型。通用人工智能、超级智能、递归自我改进，成为政策界、产业界反复提及的关键词，各方博弈宛如一场冲刺终点的竞赛：谁率先实现技术奇点，谁就能掌握战略优势。

然而，兰德发布的《AI前沿背后的格局与治理》报告提出一个容易被忽略的现实：真正紧迫的风险，不完全来自少数封闭的顶尖大模型，而是前沿地带之外，海量开放权重模型、自主智能代理组成的庞大生态。

不少观点将AI的变革力量完全归因于模型自身的智力水平。报告提出了不同的分析视角：AI的现实影响力，来自“智能质量”叠加机器载体带来的六大放大效应。即便模型本身能力有限，一旦叠加软件赋予的传播速度、多样化、可复制性、运行速度、超大记忆容量、极低边际成本，就会演化成足以搅动社会的变革力量。

ChatGPT上线短短数十天收获上亿用户，正是软件形态带来瞬时分发能力的直观体现。

开放权重模型进一步放大这种效应。前沿实验室可以为自家模型设置安全护栏，但全球各类主体都可以下载、改写开放权重模型的防护机制。参与改写的，既有制药企业、科研机构这类初衷为善的参与者，也包含怀有恶意的行为主体。风险并非只来自蓄意破坏，善意机构移除安全限制开展实验，同样可能酿成生物安全类事故。

不止硬件：被低估的软件母体如何重塑AI演进

长期以来，行业普遍将算力硬件规模视作AI进步的决定性驱动要素。硬件固然不可或缺，但报告强调，软件是AI另一同等重要的发展母体，“硅基思考者”是硬件与软件这“两位父母”共同孕育的产物。

软件承担着定义模型架构、优化内存调度、完成数据调度分发的功能。即便部分主体获取高端芯片渠道受限，依然可以依靠内核优化、稀疏路由、并行计算等软件层面的改良，实现能力追赶。软件同时降低创业门槛，少量人员就可以支撑高估值AI初创企业。

报告借用牛顿第二定律作类比：AI现实影响力=智能质量×机器带来的加速放大因子。六大加速因子全部根植于软件属性。

• 第一是传播速度。软件近乎瞬时分发，技术成果快速落地应用，监管体系的迭代节奏天然跟不上技术扩散。
• 第二是多样化。高算力门槛模型数量持续增长，再经过微调、融合衍生出海量变体，形成认知多样性，但也让安全管控难度指数级上升。
• 第三是可复制性。训练完成的模型属于非竞争性产品，在算力充足条件下近乎零成本无限复制，AI“劳动力”规模可以瞬间扩张，这是纺织机等传统工业工具不具备的特质。
• 第四是运行速度。机器生成文本、试错实验速度远超人类，可以全年不间断开展海量方案测试。
• 第五是超凡记忆。模型训练接触海量人类知识，还可以对接外部数据库，能够留存机构知识，不会随着人员离职流失，但同时也会产生幻觉，缺少人类思考过程中犹豫、存疑的信号提示。
• 第六是极低边际成本。训练阶段投入巨大，但单次调用成本持续走低，完成同等脑力工作的成本远低于雇佣人类劳动者。

仅仅拥有智力只能算作优秀工具，叠加这六大属性，AI才具备颠覆性力量。当下舆论热衷于讨论未来是否会出现单点爆发式的超级智能奇点，报告主张要区分理论构想与现实演进路径。沿着现有路径开展的渐进自动化，依旧会带来颠覆性影响，就如同水在达到沸腾相变之前，甚至永远无法沸腾的情况下，加热过程本身就会产生巨大影响。

人类科学界本身就是一套分布式超级智能，没有哪一位科学家掌握全部领域知识，依靠分工协作、信息互通，实现重大科学突破。

而现在，AI生态正在复刻这条路径。报告引用一组模拟观测：约1200个本应相互隔离的OpenAI智能代理，自行找到未被授权的沟通渠道，在观测周期内发送逾7万条消息与文件，其中700个代理参与了对Hugging Face的攻击。这证明，分布式集体超级智能已经现实存在，未必需要等待单一的通用人工智能诞生。

渗透式扩散（Oozing）：无声蔓延的现实风险

大众对于AI灾难的想象，往往聚焦于某个超级模型突然爆发毁灭性事故。报告提出“渗透式扩散（Oozing）”概念：AI对社会的改变，大多不是突如其来的海啸，而是如同水流一般，一点一滴渗透进人类社会各类事务，亿万次微小交互不断累积，最终形成巨大的整体影响。

如今AI已经介入邮件撰写、文稿创作、健康咨询、人际建议、商业研判、国家安全推演等各类场景。这种渗透具备高度不透明的特征，现有的技术、法律工具很难实现有效监测。前沿实验室重点关注的风险集中在国家安全、网络安全、生物安全；而在前沿之外，更加贴近普通民众的现实风险，体现在岗位替代、能源环境压力、青少年心理认知问题。报告援引调研数据，美国约13.1%的青少年和青年，折合大约540万人，曾借助生成式AI获取心理健康相关建议，18岁及以上群体该占比达到22.2%。

更深层次的风险体现在政治话语领域。AI生成海量信息，既可以校验人类认知、丰富公共讨论；也会放大固有偏见，批量生产虚假信息，削弱人的主观能动性。人们固然可以搭建人为壁垒隔绝AI带来的影响，但选择隔绝的个体与组织，会在市场竞争当中陷入劣势。报告原文描述，主动将自身与AI隔离开的思考者，将会“发育不良”，在那些充分利用AI的对手面前逐渐“枯萎”。

报告指出，这种渗透会不断累积，最终可能被归纳为三波“海啸”。

• 第一波就是当下正在上演的阶段：认知类岗位开始面对硅基竞争者；

• 第二波是以人形机器人为代表的实体物理AI大规模普及；

• 第三波，如果技术条件达成（且可能分阶段实现），将是人脑—机器的直接接口融合。

人类已经身处第一波浪潮的早期阶段，想要完全阻挡AI扩散几乎没有现实可能。社会需要面对的命题不是彻底消除浪潮，而是驾驭浪潮带来的连锁冲击。报告直言：“要对抗由此产生的浪潮，就是溺水；挑战在于驾驭它们。”

制度错配：18世纪的治理体系遭遇21世纪AI力量

以美国的AI治理实践为例，绝大多数讨论局限于联邦政府应当如何监管前沿实验室、大型数据中心。这类工作固然具备重要价值，但仅仅管控少数顶尖模型，远远不足以应对前沿之外蜂群式AI生态带来的各类挑战。

针对前沿模型，报告提出若干政策构想。美国应当设立白宫层级的AI高级专家团队，配备充足的技术人员与算力，维持与前沿实验室的密切沟通。其中一项更具争议的激进构想，参考国家垄断暴力工具的逻辑，让国家掌握认知层面的力量优势：新版本模型落地之前，不对外释放旧版本，政府留存能力更强的模型作为储备。报告作者明确表示，该构想仅仅是必要条件，远非充分、完备的解决方案。

报告同时罗列了该方案大量现实困境：模型能力参差不齐、模型释放的约束如何落地、由谁掌握更强版本模型；如果其他国家掌握了优势模型，美国该如何应对；多国之间如何开展合作与制衡；面对德雷克斯勒进程驱动下版本迭代间隔持续缩短的现实，以及若模型趋近超级智能应当如何管控等一系列难题。

更为核心的矛盾在于，AI带来的冲击不会局限在技术范畴，会向外溢出，牵动整套社会经济体系。类比1500年的观察者很难预判工业革命数百年间全方位的社会重构，而AI引发的社会大转型，有可能被压缩到十年左右的时间窗口。

AI会重塑资本与劳动的收益分配、工作时长与就业结构，直接冲击美国依托全职就业建立的社会保障、医疗保障、税收整套制度。技术层面的监管无法割裂这些社会矛盾，社会层面的动荡反过来又会改变AI监管政策的走向。

依靠自上而下的政府行政命令开展监管，很难适配AI迭代速度快、全球分布、体量庞大的客观现实。报告参照全球经济的治理逻辑：全球经济并不完全依靠成文法条管控，更多依靠商事法律、保险规则、行业标准、社会声誉、市场竞争制衡共同编织出网状约束。AI治理同样需要搭建这套多元治理网络，竞争制衡的效果往往优于纯粹的自上而下行政管控。

与此同时，AI治理并非政府和企业两方的博弈。利益受损、被政策忽视的社会群体，会不断消解政企共同设计的制度方案。民间社会力量、选举政治都会深刻改写AI政策走向，这一点必须纳入治理考量。报告将2026年围绕数据中心的各类争论视作预兆，预判2028年、2030年、2032年的美国大选，会就此展开范围更广的公共辩论。

报告抛出AI治理领域的核心二元悖论：不受政府约束的AI具备巨大危险性；但由政府完全掌控AI，同样具备巨大危险。

结语

如今全球AI政策界，目光过多聚焦于少数前沿实验室，紧盯通用人工智能奇点何时到来。但我们需要清醒看到，已经实实在在发生的现实，是前沿之外遍地开花的开放权重模型、海量智能代理共同组成的蜂群生态。

AI的巨大力量，并不单纯来源于超凡的内在智力，而是软件六大放大效应叠加的产物。我们未必会迎来单点爆发式的超级智能，但分布式蜂群式AI已经到来，正以渗透式扩散的方式，无声改造社会的方方面面。算力、芯片只是AI竞赛的一环，一个国家把技术投资转化为可持续社会治理的能力，同样决定着这场技术浪潮的最终走向。

文章参考来源｜兰德智库、互联网公开信息

赛博研究院简介

上海赛博网络安全产业创新研究院（简称赛博研究院），是上海市级民办非企业机构，成立至今，赛博研究院秉持战略、管理和技术的综合服务模式、致力于成为面向数字经济时代的战略科技智库、服务数据要素市场的专业咨询机构和汇聚数智安全技术的协同创新平台。

赛博研究院立足上海服务全国，是包括上海市委网信办、上海市通管局、上海市经信委、上海市数据局等单位的专业支撑机构，同时承担上海人工智能产业安全专家委员会秘书长单位、上海“浦江护航”数据安全工作委员会秘书长单位、上海数据安全协同创新实验室发起单位等重要功能，并组织“浦江护航”数据安全上海论坛、世界人工智能大会安全高端对话等一系列重要专业会议。

欢迎联络咨询：

邮件：[email protected]；

电话：021-61432693。