美国新安全中心发布《AGI时刻：面向不确定未来的战略与建议》

原创

赛博研究院
赛博研究院

赛博研究院

2026年10月9日 18:29
上海

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

近日，美国新美国安全中心（CNAS）发布报告《AGI时刻：面向不确定未来的战略与建议》（The AGI Moment: Strategies and Recommendations for an Uncertain Future）。报告梳理了通用人工智能（AGI）未来发展的各类观点与战略主张，剖析了AGI或将引发的技术变革与社会变动，同时明确了影响人工智能发展及全球格局的核心关键要素。

报告指出，人工智能的多任务综合能力正持续向人类水平靠拢，但目前业界对于AGI的落地时间、落地后的实际影响，仍存在极大的不确定性。

*AGI发展前景多元，相关战略主张差异明显*

报告归纳了两类主流的AGI未来发展情景及对应的核心观点。第一种为“智能爆炸”情景：人工智能可自主加速自身研发迭代，持续提升综合能力，最终演化出远超人类水平的超级智能。

第二种为通用技术类比情景：人工智能的发展进程与社会影响力，可类比电力、内燃机等颠覆性通用技术。技术研发突破并不意味着其能快速渗透社会各领域，技术落地与普及应用存在时间周期，人类可依托制度、政策及技术手段，提前应对各类衍生问题。

两类观点划定了AGI未来发展研究的核心方向，衍生出的发展战略差异较大，既包含抢占AGI研发先机的竞争策略，也涵盖暂停、限制部分人工智能研发，以及通过国际机制统筹协调、规范人工智能发展的监管方案。

各类战略的差异，不仅体现在具体行动举措上，更源于对人工智能发展规律、核心风险类型、风险管控可承受代价的不同研判。报告强调，研究各类战略不能仅凭单一发展情景判定政策有效性，需深入拆解其背后依托的核心假设。

*AGI实现时间与发展方式仍存在较大不确定性*

业界研究者对AGI的落地时间预测分歧极大，部分研究者认为AGI或将在数年内问世，另有研究者认为实现人类水平通用智能仍需漫长周期，还有观点指出现有部分人工智能系统已具备初步AGI特征。

此类分歧不仅源于时间预测的差异，更取决于研究者对AGI的定义界定不同。部分研究者聚焦AGI的广谱人类级任务能力，部分侧重特定专项能力，还有部分重点考量人工智能的全域社会影响力。因此，业界讨论的AGI，其指代的能力层级与社会影响范围并不统一。

报告认为，AGI的到来大概率不会呈现清晰、突发、全域可识别的节点特征。人工智能的能力提升将呈现领域不均衡性，部分任务表现已超越人类，部分领域仍存在明显短板，且这种能力差距可能逐步缩小，也可能长期存续。

若人工智能能力呈渐进式提升，政府与企业将难以界定明确的能力突破门槛；若人工智能短期内出现能力跃升，决策者的筹备时间将大幅压缩，各类风险也将集中爆发。

对AGI落地时间的不同预判，直接影响政策落地的可行性。若AGI落地周期较长，社会与政府拥有充足时间优化制度体系、完善风险防护机制、评估潜在影响；若AGI即将落地，各类筹备举措的实施空间将被大幅压缩。

*人工智能自主研发能力可能影响技术进步速度*

报告将人工智能的自主研发能力，界定为影响其未来发展路径的核心变量。

当前人工智能已可承接部分编程工作，并逐步应用于自身系统研发。若人工智能进一步参与算法设计、代码编写、模型优化等核心环节，将大幅提升研发效率，逐步降低对人类研发人员的依赖程度。

报告划分了两种核心发展情景：一是“快速起飞”，人工智能通过持续自我迭代优化，短期内从近人类水平跃升至超人类水平；二是“缓慢起飞”，人工智能能力提升周期更长，技术迭代与社会影响均循序渐进、逐步落地。

人工智能自我迭代的效率，以及其能否带动芯片、算法、模型等核心技术的同步升级，是判断其未来发展速度的关键。若技术出现突发性加速迭代，政府、企业及研发机构均难以快速适配、及时应对各类变化。

同时，人工智能任务执行的规模与速度持续扩张，大幅提升了人类监督难度。即便系统无主动规避监管的意图，海量自动化操作产生的信息体量，也会超出人类实时核查、精准解读的能力范围。

因此，研判人工智能发展趋势，不能仅关注其任务执行能力，更需聚焦其自主研发水平、运行效率，以及人类监督的有效性与持续性。

*人工智能扩散速度与技术领先优势将影响全球竞争*

报告进一步分析了研发主体数量对全球人工智能竞争格局的影响。

当前人工智能前沿研发资源集中于少数企业，因此多数战略分析将AI竞争定义为少数企业与国家的博弈。若人工智能技术快速扩散，各类国家、企业及市场主体均可掌握先进AI系统，全球竞争格局将更趋复杂。

人工智能技术的广泛扩散存在双面性：一方面会加剧恶意应用、网络攻击、虚假信息传播等风险，提升全球治理协同难度；另一方面，若先进AI技术过度集中于少数主体，又会引发全球权力失衡、资源过度集中的问题。因此，AI研发主体数量并非越少越安全，也并非越多越好，需辩证研判。

同时，全球AI竞争的核心，并非单纯比拼技术落地速度，更取决于技术落地应用与高效赋能的能力。AI研发、技术扩散、场景落地的速度存在错位，即便主体率先突破先进模型，也无法即刻将技术优势转化为持续的经济优势。

目前，处于人工智能研发前沿的企业数量相对有限，因此，部分战略分析将人工智能竞争视为少数企业或国家之间的竞争。如果人工智能能力迅速扩散，越来越多的国家、企业和其他行为体都可能获得强大的人工智能系统，未来局势就可能更加复杂。

*人工智能安全治理与国际合作面临多元抉择*

不同AGI发展战略，对AI安全可控发展的前提假设各不相同。部分战略认为加大安全研发投入即可实现AI安全可控；部分战略主张以持续投入、严格监管筑牢安全底线；还有观点认为现阶段无法保障超级智能的安全可控，需暂停或终止相关研发工作。

报告将AI核心风险归纳为五大类：超级智能失控引发的人类存续风险、研发竞赛导致安全投入不足、国家战略竞争中技术落后的风险、少数主体依托AI垄断权力、非国家行为体利用AI实施各类攻击。同时报告提醒，过度保守的管控策略，会导致社会错失AI技术的正向价值与发展机遇。

这意味着AI治理不存在适配所有场景的通用方案，不同政策举措均存在利弊。推进AI研发可提升经济与战略竞争力，但安全体系缺失会放大风险；暂停或限制研发可规避部分风险，但也会制约AI技术的普惠应用与创新发展。

报告重点强调了算力的核心支撑作用，先进芯片、数据中心等基础设施，是训练、运行高端AI模型的基础条件。管控特定主体的算力资源，可有效限制其高端AI技术的规模化应用。但算法迭代优化可降低算力需求，因此算力管控的实际成效，取决于未来技术的发展走向。

政策层面，需持续跟踪AI发展趋势，提升AI实验室透明度，引入独立第三方机构开展模型安全风险评估。报告建议，政府、企业及社会各界重点监测六大核心指标：AI研发迭代速度、算力资源迭代变化、AI自主研发参与度、技术双重应用能力、模型与人类发展目标的契合度。

上述指标既可辅助研判AI未来发展路径，也能为政策干预提供精准依据。各类主体需基于发展趋势预判，制定保留多元调整空间的政策举措，避免依托单一发展情景制定固化策略。

*强化情景研究与动态监测，完善长效应对体系*

目前，多数AGI发展战略依托固定核心假设，包括AGI将出现明确落地节点、研发主体相对集中、AI可快速自我迭代升级、技术领先可快速转化为战略优势等，但此类假设均存在不确定性，未必全部成立。

未来研究需重点补齐既往忽视的发展情景：AGI技术快速扩散、多主体普及应用；技术扩散速度超越领先主体的优势转化速度；超级智能落地后仍受物理、政治、经济条件约束；AI能力长期渐进提升，无明确的代际突破节点。

为有效应对发展不确定性，报告建议深化多学科融合的情景研究，对各类发展情景及背后的核心假设开展批判性研判。同时，常态化监测关键变量，涵盖AI研发速度、算力与算法效率迭代水平、AI自主研发程度、高端模型安全表现，以及AI在网络安全、合成生物学等领域的双重应用潜力。

AI安全投入力度、政府监管效能、研发机构透明度、研究开放程度、全球算力资源分布，均是影响行业发展走向的关键因素。政府、私营部门与社会组织需依托各类监测数据，精准研判风险态势，动态优化治理举措。

文章参考来源｜美国新美国安全中心、互联网公开信息

赛博研究院简介

上海赛博网络安全产业创新研究院（简称赛博研究院），是上海市级民办非企业机构，成立至今，赛博研究院秉持战略、管理和技术的综合服务模式、致力于成为面向数字经济时代的战略科技智库、服务数据要素市场的专业咨询机构和汇聚数智安全技术的协同创新平台。

赛博研究院立足上海服务全国，是包括上海市委网信办、上海市通管局、上海市经信委、上海市数据局等单位的专业支撑机构，同时承担上海人工智能产业安全专家委员会秘书长单位、上海“浦江护航”数据安全工作委员会秘书长单位、上海数据安全协同创新实验室发起单位等重要功能，并组织“浦江护航”数据安全上海论坛、世界人工智能大会安全高端对话等一系列重要专业会议。

欢迎联络咨询：

邮件：[email protected]；

电话：021-61432693。