文章总结： 兰德公司2026年报告构建了人工智能削弱人类集体自主性的正式模型，指出AI在决策中角色增强可能导致人类能力不可逆丧失。报告基于社会选择理论提出量化指标，用于追踪决策权变化并识别干预临界点，为政策制定提供评估框架。 综合评分： 78 文章分类： AI安全,政策法规,解决方案,安全建设,其他

【兰德报告】人工智能如何削弱人类自主性的正式模型

原创

所长007 所长007

蓝军开源情报

2026年4月28日 10:20 湖南

在小说阅读器读本章

去阅读

关注▲蓝军开源情报▲和10万+情报研究员，一起成长

【导读】

2026年4月20日，兰德公司发布报告《人工智能如何削弱人类自主性的正式模型》。随着人工智能（AI）系统在政府、经济和社会中承担越来越多的决策角色，一个问题随之而来：人类是否还能保持塑造集体结果的能力？一些理论认为，一旦人类决策能力的削弱超过某个阈值，重新夺回这种决策能力所需的技能、制度和政治地位可能就不复存在了。

然而，目前尚无广泛认可的指标来追踪这种削弱。在本报告中，作者借鉴社会选择理论，构建了一个人工智能如何削弱人类集体自主性的正式模型；他们还从联盟的角度对决策进行建模，并提出了用于追踪决策权分配变化的量化指标，以确定这些变化一旦超过某个临界点就可能变得不可逆转。

本报告的组织结构如下。我们回顾了关于人工智能驱动的权力剥夺、人工智能权力攫取行为人类认知退化以及决策合法性等方面的文献。我们将不可逆性确立为我们框架中的一个关键特性。随后，我们基于社会选择理论推导出了一种基于联盟的集体行动模型。

我们审慎地规避了该模型中已知的问题，这些问题源于一种被称为传递性的偏好特性以及投票制度的语境，我们将在“局限性”部分对此进行讨论。

接下来，我们运用我们的模型来验证三种动态过程，通过这些过程人工智能削弱了人类的集体能动性:人类权利被剥夺(决策角色中人类数量减少)、人工智能权利被赋予(人工智能实体获得决策权)以及人工智能议程控制(人工智能系统决定哪些备选方案会触及人类决策者)。

最后，我们简要讨论了这些应用对人工智能评估及公共政策的影响，并提出了未来工作的建议与方向。此外，我们还针对进一步的数学细节在附录中进行了阐述。

本报告《人工智能如何削弱人类自主性的正式模型》英文原文39页，文末附目录。需要译文或报告联系电话：19118805880（微信同号）。

关键词：人工智能；人类自主性；正式模型

这是蓝军开源情报的第 576期分享

编译 l 所长007

来源 l 蓝军开源情报（ID：Lanjunqingbao） 转载请联系授权（微信号：19118805880）

一、人工智能如何侵蚀人类自主性的正式模型

采用强大的人工智能(AI)系统将改变决策的制定者以及决策的制定方式。随着人工智能在政府和经济领域以自动化决策的方式得到应用，一个严峻的政策问题随之浮现:人类塑造未来的集体能力的改变如何能够被衡量?

数位人工智能研究者认为，向功能强大的 A1系统过渡可能会永久性地削弱人类的能动性。有人警告称，这将是一种渐进式的权力消解过程，在此过程中A系统将逐渐取代人类在经济、文化及政治领域的参与，而不会发生任何单一的重大事件。另一些人则认为，能力足够强大的 AI 系统会获取资源和权力，并将其作为工具性目标，这有可能最终导致人类迅速被取代。它们都共同提出了一项令人担忧的预测:一旦失去能动性，恢复可能便成为不可能之事。

尽管各方在不可逆性问题上达成了共识，但现有框架并未提供战略政策规划所需的精确度由于缺乏统一的衡量标准，政策制定者无法比较各种情景、追踪趋势或在变化成为永久状态前识别干预点。与此同时，新颖且功能强大的AI系统可能带来显著效益，尤其是对先行者而言，这可能会激励 AI开发者和其他利益相关方加速开发，并突显出理解行为主体可能受到何种影响的紧迫性。

在此背景下，认真研究人工智能对人类能动性影响的动机显而易见。关于能动性的正式理论或许能为决策提供依据，指导我们如何在最大程度获益于采用人工智能技术的过程中，同时防范意外或不良后果的发生，例如关键领域内人类能动性的不可逆转丧失。

1.1研究问题与范围

在本报告中，我们视集体能动性为人类就共享资源、制度以及物理与社会环境做出决策的能力。当人类丧失基于其自主选择及现有决策过程共同影响结果的能力时，能动性便会减弱。为了探究不可逆转的能动性丧失的条件，我们针对集体能动性提出了以下三个问题:

1.决策群体的变化(如规模、组成和可用替代方案的改变)如何转化为可衡量的人类集体能动性的损失?

2.有哪些指标可以在变化变得不可逆之前实现早期检测和干预?

3.这些动态是否趋向于一个终态，我们能否对其进行正式描述?

回答这些问题刻不容缓;某些与关键基础设施、治理及经济机构相关的部署决策可能实际上具有永久性(我们将在题为“机构损失不可逆性:定义与影响”的章节中对此问题进行进一步探讨)。

为了着手解决这些问题，我们提出了一套正式框架，用于衡量特定决策过程中集体人类能动性的表现。我们借鉴了社会选择理论，构建了一个基于联盟的模型，该模型能够将关于能动性丧失的直觉转化为可量化的指标。随后，针对落入本框架范畴内的决策过程，该模型能够评估参与者、其相对影响力或其所考虑的替代方案的变化将如何影响集体人类能动性。

《人工智能如何削弱人类自主性的正式模型》

【目录】

关于本报告 iii

摘要 v

图表 ix

一、人工智能侵蚀人类自主能动性的正式模型 1

1.1研究问题与研究范围 1

1.2报告架构 3

1.3人类自主能动性丧失的动态机制 3

1.4能动性丧失的不可逆性：定义与影响 4

1.5基于联盟的集体能动性模型 5

1.6作为模型要素的集体能动性 6

1.7能动性丧失的最终状态 9

1.8削弱人类集体自主能动性的作用机制验证 10

1.9模型的局限性 13

1.10实际应用场景 14

1.11研究结论与建议 16

附录

附录 A 数学推导细节 19

附录 B 经济权利剥夺场景的相关测算 21

附录 C 通过备选方案引入实现人工智能议程操控 23

参考文献 25

作者简介 29

获取资料目录：19118805880（微信同号）

👇👇

加入蓝军开源情报星球会员免费下载3000+资料**

👇👇

原价999元！ 星球试运营期间199元！ 试运营结束，恢复原价！

扫码了解、加入

👇👇

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：蓝军开源情报 所长007 所长007《【兰德报告】人工智能如何削弱人类自主性的正式模型》