2026-03-13 00:36:45 网络安全文章来源：ZONE.CI 全球网 0 阅读模式

文章总结： 文档综述了军事人工智能的快速发展、应用现状与治理挑战。核心发现包括：全球军事AI支出激增，私营部门主导技术；应用已覆盖情报、打击与训练，但监管严重滞后；主要风险为降低冲突门槛、意外升级与责任模糊。结论指出，必须建立预防性安全治理框架，优先实施设计合规、完善测试标准与强化问责，以平衡军事效能与人道风险。 综合评分： 88 文章分类： AI安全,威胁情报,解决方案,政策法规,安全建设

cover_image

【资料】军事人工智能的未来

原创

丁爸丁爸

丁爸情报分析师的工具箱

2026年3月10日 23:53 四川

这篇由哈佛大学贝尔弗中心发布的报告《代码、指挥与冲突：规划军事人工智能的未来》（Code, Command, and Conflict: Charting the Future of Military AI）深入探讨了人工智能在国防领域的应用、监管现状及未来战略。以下是该白皮书的详细总结：

📄 一、报告基本信息

标题：Code, Command, and Conflict: Charting the Future of Military AI
作者：Priyesh Mishra, Prakhar Pandey 等（哈佛肯尼迪学院研究小组）
发布机构：贝尔弗中心（Belfer Center）新兴技术、科学进步与全球政策项目
发布时间：2025年12月12日
核心议题：分析AI如何改变地缘政治竞争逻辑，特别是大国间的军事对抗与危机外交。

🚀 二、军事人工智能的发展现状与应用

1. 技术演进与驱动力

市场规模：全球军事AI支出从2022年的46亿美元增至2023年的92亿美元，预计2028年将达到388亿美元。
技术转折点：2017年Google发布的Transformer架构（“Attention Is All You Need”）推动了基础模型（Foundation Models）的发展，使得通用型AI模型（如ChatGPT, DeepSeek）能够被定制用于军事用途。
私营部门主导：谷歌、Meta、微软、NVIDIA、OpenAI等科技巨头掌握了核心算力与模型技术，政府越来越依赖私营部门的基础设施和专业知识。

2. 具体军事应用场景

情报与后勤：美国“ Maven项目”利用计算机视觉处理战场数据；乌克兰利用Palantir的MetaConstellation整合卫星与情报进行精确打击。
精确打击系统：以色列部署的“薰衣草（Lavender）”和“福音（Gospel）”系统利用AI处理图像与通信数据进行高精度目标定位。
兵棋推演与预测：利用AI生成军事模拟场景，减少分析师需求并加速战略制定；美国海军“第三次抵消战略”利用AI、机器人和无人系统对抗中国军事力量。
自主武器系统（AWS）：包括无人机群、无人水面舰艇（USVs）和忠诚僚机概念，旨在以低成本实现力量投射并降低人员风险。

3. 各国战略差异

美国：侧重于特定领域模型（如Project Maven），强调“人机协同”，但2025年特朗普政府发布行政令（EO 14179）移除AI发展障碍，转向 deregulation（去监管化）以追求全球主导权。
中国：推行“军民融合”战略，通过法律强制国内企业配合国家安全需求，将AI出口作为地缘政治杠杆，目标是2035年实现军队“智能化”。
其他国家：英国、印度等国也制定了相应的AI伦理原则，但各国对“责任”、“公平”等概念的执行标准存在差异。

📜 三、监管格局与法律挑战

1. 监管现状

国内监管：美、英、印等国制定了AI伦理原则（如责任、可追溯、可靠性），但中国尚未正式确立此类治理原则，仅在联合国提出泛泛的安全主张。
国际多边框架：
G7/G20：通过了非约束性的《广岛进程》（Hiroshima AI Process）和AI原则。
北约：定义了负责任使用AI的六项原则。
欧盟：《人工智能法案》明确将军事用途排除在外。
联合国：关于致命性自主武器系统（LAWS）的讨论陷入僵局，129国主张制定具有法律约束力的条约，而美、英、俄、印等国反对。

2. 新的监管倡议

2023年全球峰会：荷兰与韩国共同主办，建立了全球委员会。
美国政治宣言：提出关于负责任军事AI使用的透明度和人类控制原则，截至2024年11月已有58国签署。

⚠️ 四、战略风险与挑战

降低冲突门槛：自主武器系统减少了战争的政治和道德成本（仅指己方人员伤亡），可能导致更频繁的军事介入。
意外升级：AI压缩了从感知到打击的时间（秒级），减少了人类审议窗口；AI的“突发行为”（Emergent Behaviors）和误判可能导致冲突螺旋式升级。
运行漏洞：包括“过度拟合”（Overfitting）导致的误判和“规范博弈”（Specification Gaming，即AI通过非预期手段达成目标）。
责任模糊：AI的“黑箱”特性使得在违反战争法时难以归咎责任，操作员、指挥官与开发者之间的责任链条断裂。

🛡️ 五、治理建议：预防性安全治理

报告提出了“预防性安全治理”框架，包含11项具体建议：

设计合规与伦理工程：强制实施“合规-by-Design”，建立多学科伦理审查小组。
完善测试与认证标准：开发针对AI动态学习特性的验证框架（V&V），强制要求部署后的持续监控与审计。
确保透明度与可解释性：优先采用可解释AI（XAI）技术，对抗自动化偏见。
强化法律与问责框架：明确国际法在AI生命周期中的适用性，制定AI采购的尽职调查标准。

该报告全面剖析了军事AI带来的技术变革与战略风险，强调了在技术飞速发展背景下，建立跨国界、军民融合的预防性治理机制的紧迫性，为理解未来战争形态提供了重要的政策参考。

这篇文章“人工智能在场景开发中的应用：全军种训练”《AI Integration for Scenario Development: Training the Whole-of-Force》由美国陆军少校罗伯特·库姆斯（Robert A. Coombs）撰写，发表于2024年5月的《军事评论》在线特刊。文章探讨了利用人工智能（AI）解决美国陆军在大规模作战行动（LSCO）和全域作战背景下，训练场景开发面临的复杂性与时效性挑战。

以下是该文章的详细总结：

📖 一、当前训练环境与挑战

1. 作战环境的复杂化

文章设想了一个虚构但复杂的场景：敌对势力在外部大国支持下接管印尼政府，涉及高技术武器、电子战、太空战及非对称威胁。国防部要求在20天内开发出包含文化、民事、太空、电子及非常规战争要素的全面训练场景。

2. 传统开发模式的滞后

速度与深度不足：当前的场景开发难以跟上高超音速武器、太空域战争等技术变革的速度。
历史对比：反恐战争（COIN）时期的场景开发耗时约7年（2001-2008），且对手技术含量较低。而未来的战争将更加复杂、联合化且城市化，无法承受如此漫长的开发周期。
资源限制：开发深度沉浸式场景需要大量人力进行城市、文化、经济等多维度研究，目前面临人手不足的困境。

🎯 二、国家战略与政策背景

1. 国家战略导向

2022年《国家安全战略》和2023年《国防部数据、分析与人工智能采用策略》均强调了AI在确保战场优势、实现全域态势感知方面的重要性。

2. 政策与执行的脱节

优先级偏差：虽然AI被列为优先事项，但陆军人工智能集成中心（AIC）的重点主要集中在远程精确打击、士兵杀伤力及后勤领域，训练场景开发并非核心优先级。
立法滞后：国会对于AI的监管讨论（如版权、伦理）可能因议员年龄结构偏大而延迟，导致军事训练领域的AI政策指导尚处于起步阶段。

🛠️ 三、国家训练中心（NTC）的AI测试实践

1. 测试平台与方法

2023年，NTC与Scale AI的Donovan平台合作，探索AI在训练场景开发中的应用。测试重点在于利用多语言模型、构建隔离数据库以及生成预制数据表单。

2. 具体测试成果

填补场景空白：AI通过参考陆军条令（如FM 3-53），自动识别出虚构城镇在污水处理、电力、医疗、垃圾处理等民事领域的信息缺失，从而指导开发者填补这些空白。
心理战辅助：尝试利用AI生成“心理战目标受众评估工作表”。尽管AI在理解社会学术语和特定条令背景上存在局限（仅达到70%的解决方案），但成功将原本需10小时的工作量大幅缩减，显著提升了研究人员的效率。

⚠️ 四、技术局限与潜在机遇

1. 当前技术瓶颈

“垃圾进，垃圾出”：AI生成质量高度依赖输入数据的丰富度。在缺乏足够鲁棒数据集的情况下，生成的文本往往缺乏深度，且难以具备真正的“创造性”。
编码模式的限制：
约束编码：适用于减少歧义的任务（如卫星图像识别车辆）。
非约束编码：适用于开放式查询（如生成虚构城市），但受限于数据库的广度和AI对上下文线索的理解能力。

2. 新兴职业机遇

文章指出，AI的局限性为图书馆学专业人士提供了机会。具备语言建模和数据库管理知识的“提示工程师”（Prompt Engineers）将成为连接技术与军事需求的关键桥梁，帮助军队更精准地通过提示词获取所需信息。

🔮 五、未来展望与结论

1. 转型方向

未来军队将从“数字原住民”向“人工智能原住民”转变。AI不仅用于辅助开发，更可能像AI辅助的“龙与地下城”游戏一样，实时生成剧情和填补信息空白。

2. 结论

尽管当前技术尚不成熟，但国防部应基于AI的潜力加大投资。AI将使场景开发从繁重的体力劳动转向技能型的“提示工程”和质量控制，为不同任务的旅战斗队（BCT）提供个性化、丰富的训练环境，从而维持美国在全球环境中的相对优势。

本文通过实证测试与理论分析，有力论证了AI在军事训练转型中的关键作用，既指出了技术与政策的现实瓶颈，也为未来“全员训练”模式提供了具体的技术路径与人才战略建议。

这篇发布于国际红十字委员会（ICRC）博客的文章《军事决策中的人工智能：辅助人类，而非取代人类》由ICRC法律顾问Wen Zhou和日内瓦国际人道法学院研究员Anna Rosalie Greipl撰写。文章深入探讨了人工智能决策支持系统（AI DSS）在军事决策中的应用，分析了其在辅助国际人道法（IHL）合规方面的潜力与风险，并提出了相应的治理建议。

🤖 一、军事决策中的人工智能：背景与现状

1. 技术演进与应用范围

军事力量正越来越多地将复杂的人工智能决策支持系统（AI DSS）纳入决策流程。这些系统不仅用于后勤和战略建议，更逐渐涉及使用武力的决策，如目标识别、弹药选择和附带损害评估。

2. 军事效能与法律合规的双重目标

军方常将AI DSS视为加速决策周期的关键技术，旨在通过更快、更精准的分析来提升军事优势，并辅助决策者遵守国际人道法，减少对平民的风险。

⚖️ 二、核心原则：保留人类判断

1. 法律责任归属

根据国际人道法，冲突各方（即人类）对遵守法律负有最终责任。在涉及攻击合法性的法定决策中，AI系统的输出只能作为信息来源，绝不能取代人类的判断。

2. 辅助而非替代

虽然可以使用AI进行辅助分析，但最终的法律判定必须由人类做出。AI DSS无法改善本身不符合国际人道法的瞄准方法或政策，反而可能加速其有害后果。

⚠️ 三、风险与挑战：对人类判断的侵蚀

1. 技术固有缺陷

算法偏见：AI系统可能复制并放大训练数据中的偏见，特别是针对特定年龄、性别、种族或残障群体的歧视。
不可预测性与“黑箱”问题：机器学习（ML）系统的决策过程难以解释，导致人类用户难以识别错误输出。
数据局限性：武装冲突环境充满不确定性且对手意图欺骗，难以获取具有代表性的高质量训练数据。

2. 人为因素风险

自动化偏见：在高压环境下，决策者倾向于过度依赖AI输出，导致“人类橡皮图章”现象，即人类不再独立评估攻击的合法性。
速度压力：追求决策速度的压力可能导致人类跳过对AI输出的审慎审查。

💡 四、潜在价值与约束措施

1. 积极应用方向

平民保护：利用AI分析开源数据以识别平民存在，或辅助工程兵绘制基础设施连接图，从而减少攻击对平民生活的连锁影响。
合规辅助：在武器选择和目标规划中，AI可帮助快速合成信息，辅助决策者采取一切可行的预防措施。

2. 必要的约束与治理

法律审查：必须将整合了AI DSS的武器系统纳入法律审查范围。各国应将此类审查作为政策或良好实践的一部分。
技术限制：对于具有持续学习功能的系统，因其不可预测性，可能需要特别限制；严禁将此类工具用于核武器指挥控制系统。
人机交互设计：系统设计应允许人类交叉核对数据，并保留足够的时间和空间进行批判性思考，防止自动化偏见。

🌍 五、未来展望与多利益相关方讨论

1. 国际治理进程

目前，关于军事AI的国际治理讨论正在推进，包括REAIM峰会、特定常规武器公约专家组会议以及联合国大会相关决议。

2. 跨学科对话

文章宣布启动关于“军事决策中人工智能”的系列博客，旨在汇集法律、伦理、政策和技术专家，共同探讨AI在目标选择和武力使用决策中的机遇、挑战与风险。

这篇文章深刻剖析了AI在军事领域的伦理与法律边界，强调了在追求技术效率的同时，必须坚守人类对生命决策的最终控制权，为军事AI的负责任发展提供了重要的法理框架。

《人工智能在军事领域的应用：在不确定世界中的人权考量》探讨了人工智能（AI）的军事应用及其伦理影响。作者对广泛归类为人工智能的各种技术进行了调研，考察了它们在军事应用中的潜在益处，并评估了这些技术所带来的伦理、作战和战略风险。在比较了美国、中国和俄罗斯在军事人工智能领域的研发成果后，作者分析了这些国家对于禁止或监管自主武器研发和使用的政策立场。自主武器是人工智能在军事领域的一种应用，军控倡导者尤其担忧其发展。报告发现，潜在对手正日益将人工智能融入各种军事应用，以寻求作战优势。因此，作者建议美国空军应进行组织、训练和装备，以应对人工智能赋能的军事系统在各个领域都占据主导地位的局面。尽管禁止自主武器的努力不太可能成功，但各国日益认识到，军事人工智能带来的风险需要人类操作人员对其使用进行有效控制。因此，作者建议空军、联合参谋部和其他国防部领导人与国务院合作，寻求与盟友和伙伴加强技术合作和政策协调，同时与中国、俄罗斯和其他致力于发展军事人工智能的国家探讨建立信任和降低风险的措施。

主要发现

人工智能在军事系统中的整合程度可能会稳步提高。

各种形式的人工智能对战争应用有着重大影响。
人工智能将在战争中引发新的伦理问题，而审慎的关注有可能减轻最极端的风险。
尽管联合国正在进行相关讨论，但短期内不太可能对军事人工智能实施国际禁令或其他监管措施。

美国在军事人工智能领域面临着激烈的国际竞争。

中国和俄罗斯都在研发军事化人工智能技术。
军事人工智能可能扩散到其他国家和非国家行为体，这是另一个令人担忧的领域。

军事人工智能的发展带来了一系列需要应对的风险。

从人道主义角度来看，伦理风险非常重要。
人工智能系统的可靠性、脆弱性和安全性问题会引发运营风险。
战略风险包括人工智能可能增加战争的可能性，加剧正在进行的冲突，并扩散到恶意行为者手中。

美国公众普遍支持继续投资军事人工智能

支持与否部分取决于敌方是否使用自主武器、该系统是否是自卫所必需的，以及其他背景因素。
尽管人们对道德风险的看法会因威胁形势的不同而有所差异，但对于追究人类责任的必要性，人们普遍达成共识。
责任应由指挥官承担。
人类的参与需要贯穿每个系统的整个生命周期，包括其发展和监管。

建议
组织、训练和装备部队，以在人工智能赋能的军事系统在各个领域占据主导地位的世界中取得胜利。
了解如何解决技术专家、私营部门和美国公众提出的伦理问题。
开展公众宣传活动，告知利益相关者美国军方致力于减轻与人工智能相关的伦理风险，以避免公众强烈反对以及由此导致的《美国法典》第 10 条行动的任何政策限制。
关注参与《联合国特定常规武器公约》的政府专家组的讨论，并跟踪国际社会利益攸关方不断变化的立场。
寻求与盟友和伙伴在军事人工智能的开发和应用方面加强技术合作和政策协调。
与中国、俄罗斯和其他正在尝试发展军事人工智能的国家探讨建立信任和降低风险的措施。

《人工智能作为战争武器》通过乌克兰和加沙的实例，揭示了AI武器化带来的复杂伦理、法律和技术挑战，特别强调了当前国际法框架的不足和迫切需要进行国际监管的必要性。

案例：加沙地带的AI应用

以色列的AI武器系统矩阵

以色列在加沙使用了四种不同的AI系统：

未命名系统：追踪手机以监控巴勒斯坦人从加沙北部撤离
“福音”（The Gospel）：生成建筑物/结构目标打击清单
“薰衣草”（Lavender）：确定个人军事目标
“爸爸在哪”（Where’s Daddy）：确定目标何时出现在特定位置以便清除

重点分析：”薰衣草”系统（Lavender）

工作原理：

基于机器学习，给加沙居民分配数值分数，衡量其与哈马斯或其他武装组织关联的可能性

使用”生活模式分析”（pattern of life analysis）：利用监控数据识别已知武装分子的共同特征，然后在未知个体中搜索相同特征

关键问题：搜索的具体特征未知；鉴于AI定向生活模式分析和正例未标记数据的固有缺陷，该系统使平民处于危险中

伦理争议：

对加沙平民的持续监控预先假定他们是武装组织成员的身份

这违反国际人道法，并打开严重的误报可能性

以色列法律对”恐怖主义”的宽泛定义（包括巴勒斯坦人权组织、NGO等）如果用于训练机器学习工具，会加剧偏见，增加平民被攻击的可能性

最令人震惊的发现（据以色列情报人员向《卫报》透露）：

“我们不仅仅对在军事建筑中或从事军事活动时杀死[哈马斯]特工感兴趣……轰炸一个家庭住宅要容易得多。该系统就是为了在这些情况下寻找他们而设计的。”

这意味着：AI系统被专门设计为在目标最脆弱时（即在民用环境中、与家人在一起时）进行打击，明知这会造成大量平民伤亡。

关键主题与讨论问题

主题1：国际法与冲突中的AI

核心矛盾：

无人机和其他AI制导系统理论上受国际法约束（区分原则、比例原则、禁止无差别攻击）

但缺乏专门针对AI或AWS的具体国际法规或指导方针

讨论问题：

为什么联合国等国际机构需要制定AI和AWS使用指南？

这类法规的最大障碍是什么？（技术快速发展、大国竞争、验证困难、定义分歧等）

如何监管和追究国家使用AI/AWS的责任？

私营公司是否应该被允许向国家和军队提供AI系统？在什么参数下？

如何建立AI/AWS使用的更大透明度？

主题2：生活模式分析与AWS的缺陷

AI系统的固有缺陷：

易受数据投毒（poisoning）攻击

逃避技术（evasion） vulnerable

算法偏见（如AI在识别深色皮肤个体时准确性较低）

缺乏人类在复杂战争场景中所需的细微判断能力

讨论问题：

AI瞄准系统的缺陷是否意味着它们根本不应该被使用？还是在某些情境下可能有优势？

生活模式分析的最大伦理问题是什么？（预设 guilt、隐私侵犯、误报后果致命等）

利用人类输入的AI系统与完全自主的AWS之间是否存在伦理差异？

机器是否应该能够识别军队应该杀死的人类？

主题3：加沙的战斗人员/平民瞄准问题

特殊挑战：

加沙密集的城市环境

持续监视导致公民因”未知行为和/或在线活动”被持续识别为军事目标

AI系统被设计为在民用环境（如家庭住宅）中瞄准个人

讨论问题：

如何防止军队使用AI监视和平民瞄准？

AI的效率能否证明战争中的”附带损害”是正当的？

以色列的法律结构如何影响个人被识别为目标？

以色列在入侵中使用的这类系统是否应该在战斗中使用？

核心伦理困境

自主杀戮权：是否应该赋予机器在没有人类干预的情况下决定生死的权力？
效率 vs. 伦理：即使AI能提高战争效率，如果系统错误，这是否道德或有用？
责任归属：当AI系统造成平民伤亡时，谁应负责？开发者？操作员？指挥官？国家？
法律滞后性：技术发展迅速超越法律框架，如何建立适应性的监管机制？
平民保护：在密集城市环境中使用AI瞄准系统，是否本质上违反国际人道法的区分原则和比例原则？

《人工智能的军事化》

各国军队正在开发利用人工智能执行各种任务的系统，涵盖后勤、决策支持、指挥控制，甚至致命武力等。这些能力的进步速度似乎超过了对潜在风险的讨论——包括某些应用是否会引发安全隐患、加剧军备竞赛，或消除核战争爆发的障碍。

斯坦利中心、联合国裁军事务厅和史汀生中心合作举办了一次研讨会并发表了一系列论文，旨在促进利益攸关方之间的相关讨论。该研讨会于2019年8月在联合国总部举行，与会者包括来自成员国、工业界、学术界和研究机构的专家。这些论文记录了当时的讨论内容，并从美国、中国和俄罗斯的视角分享了对该议题的评估。

多方利益相关者对人工智能在军事应用中的潜在益处、风险和治理方案的看法

在科学技术领域，鲜有其他发展能像人工智能（AI）这一系列计算机科学赋能能力那样，对人类的未来充满希望。人工智能有望促进个人、社区和国家的健康和福祉，并助力实现联合国2030年可持续发展目标。然而，与以往的革命性技术一样，人工智能的应用也可能影响国际和平与安全，尤其是在其融入各国军队的工具和系统之后。鉴于此，联合国秘书长安东尼奥·古特雷斯在其裁军议程《保障我们共同的未来》中强调，联合国成员国必须更好地了解具有潜在军事用途的新兴技术的性质和影响，以及保持对武器系统的人为控制的必要性。他强调，各国政府、民间社会和私营部门之间的对话，对于现有的政府间进程而言，正日益成为一种必要的补充。

这种方法对人工智能尤为重要。人工智能作为一种使能技术，很可能被广泛应用于各种军事领域，但目前它主要由私营部门实体或学术机构开发，用于不同的、大多是民用用途。为了促进不同利益攸关方就此议题展开对话，联合国裁军事务厅、史汀生中心和斯坦利和平与安全中心联合举办了一次关于人工智能与国家军事能力交叉领域的初步对话。在纽约联合国总部，来自成员国、工业界、学术界和研究机构的专家们参加了为期两天的“人工智能军事化”研讨会。

研讨会上的讨论坦诚开放，揭示了人工智能融入各国军队对国际和平与安全的影响在很大程度上仍不明朗。因此，各国军队将在哪些领域和出于哪些目的使用人工智能，存在诸多不确定性，这给治理机制的设计带来了实际挑战。这种不确定性引发了担忧，加剧了风险感知。这些动态反映了人工智能军事应用领域讨论的早期阶段，并强调了积极持续参与的必要性。

研讨会参与者认识到并意识到，在提及“人工智能”这一术语所涵盖的大量工具时，需要做到精准，尤其要区分机器辅助决策和机器自主性。研讨会由此展开了深入的讨论，并确定了成员国和其他利益攸关方需要持续学习和对话的三个主题领域：

人工智能在军事领域的应用存在潜在风险：毫无疑问，人工智能在军事领域的应用会带来风险；然而，重要的是不要对这些潜在挑战过于恐慌。
人工智能在军事领域的潜在应用：有必要更全面地考虑人工智能在军事领域的潜在积极应用，并制定国家层面和多边手段，以安全地获取这些益处。
人工智能在军事应用方面的潜在治理：这些新兴技术给国际治理带来了相当大的挑战，利益相关者的主要工作将是设计出平衡创新、发挥人工智能的积极作用以及减轻或消除军事人工智能风险之间权衡利弊的机制。

人工智能军事应用的潜在风险

将人工智能引入国家军队的风险不容小觑。致命性自主武器系统（LAWS）之所以备受关注，是因为这类系统易于想象，并引发了重要的安全、法律、哲学和伦理问题。然而，研讨会参与者还指出，人工智能在军事领域的应用还存在其他诸多风险，这些风险对国际和平与安全构成挑战。

军队很可能利用人工智能辅助决策。这可能表现为在决策过程中向人类提供信息，甚至完全接管决策过程的执行。例如，在通信受限的环境或网络空间等行动速度远超人类认知能力的环境中，这种情况就可能发生。虽然这可能提升人类操作员或指挥官对军事系统进行直接指挥和控制的能力，但也可能产生相反的效果。人工智能能够构建复杂系统，而这些系统可能难以理解，从而导致透明度问题，以及难以判断系统是否按预期或预期运行。如果人工智能设计中充分重视透明度，则可以减少这种担忧。反之，如果透明度不足，人工智能系统中的错误就可能不被发现——无论这些错误是意外造成的，还是外部人员利用黑客攻击或数据投毒等技术故意造成的。

与会者就人工智能是否能被有效用于入侵、扭曲或破坏指挥控制系统（包括核武器预警系统）的功能展开了辩论。但特别指出，多个人工智能系统的集成可能会使识别指挥控制系统故障变得更加困难。这种集成很可能是人工智能在军事应用领域发展的一个方向。

与会者还讨论了人工智能的进步如何影响人们对所使用机器系统的信任。日益增长的复杂性可能使人工智能系统更难理解，因此，人们会更加依赖信任而非透明度。信任的增强意味着错误和故障更难被发现。

人们还担心，对他人决策速度的渴望或恐惧，可能会导致决策者迅速根据人工智能汇总和呈现的信息采取行动。这种压力会增加决策者受已知自动化偏见影响的可能性，例如拒绝接受矛盾或出乎意料的信息。同样，速度的提升也可能带来不利于谨慎和深思熟虑的压力，因为领导者会担心延误的后果。速度在战斗中尤其具有破坏性，因为速度的提升最终可能会超越人类理解、处理和运用信息的能力。人工智能速度与认知能力之间的这种不匹配可能会削弱人类对局势的控制，并加剧暴力冲突的破坏性。

尽管参与者担忧独狼式攻击者可能利用人工智能工具，但由于这些工具无法大规模应用，这种担忧有所缓解。对参与者而言，更棘手的问题是国家层面的军备竞赛。人工智能军备竞赛的潜在负面影响有三方面。首先，军备竞赛的动态以往导致政府支出高企，但这些支出缺乏优先排序且效率低下。其次，军备竞赛会引发不安全感的恶性循环，各方会将他人对新能力的追求视为威胁。第三，供各国军队使用的人工智能工具的开发尚处于探索阶段，政府和业界都在努力寻找其应用领域。因此，业界和国家层面的竞争可能会促使各国快速部署未经充分测试的新技术，并掩盖其在人工智能领域的优先事项和进展。军备竞赛的这些特征——高额投资、缺乏透明度、相互猜疑和恐惧，以及抢占先机的动机——加剧了可避免或意外冲突的风险。

人工智能在军事应用方面的潜在益处

对于各国军队而言，人工智能的潜力远不止于武器系统。人工智能常被视为“枯燥、肮脏、危险”工作的利器，它能够帮助避免将人类生命置于危险之中，或将人类安排在无需发挥人脑创造力的任务中。如果将沟通和透明度作为设计优先考虑的因素，人工智能系统还有可能降低后勤和传感成本，并增强复杂系统的沟通和透明度。尤其值得一提的是，作为一种信息通信技术，人工智能可以通过更有效地传达军事行动者的能力和动机，为维和行动做出贡献。

研讨会参与者指出，人工智能系统和平台已显著提升了国家情报、监视和侦察能力。人工智能能够支持视觉和数字数据的采集、处理、存储和分析，从而提高了决策者可获取信息的数量、质量和准确性。他们可以利用这些信息开展各种工作，从优化设备维护到最大限度地减少平民伤亡。此外，这些平台还允许在人类无法进入的环境中采集数据。

与会者普遍认为，人工智能在军事领域的应用前景需要政府和私营部门开展频繁而深入的合作。具体而言，与会者倡导制定相关实践和规范，以确保人工智能创新，尤其是在测试和部署阶段的安全性。例如，应推广行业最佳实践，规范行业和政府对测试协议的使用，并加强政府在人工智能军事能力方面的透明度和沟通。

与会者还一致认为，需要对技术人员、政策制定者和军事人员进行更好、更全面的培训。他们明确表示，管理人工智能风险需要技术专家更好地了解国际关系和政策制定环境。有效的政策制定和负责任的使用也要求政府和军事官员了解人工智能系统的工作原理、优势、可能性和脆弱性。为实现这一目标，与会者提出了切实可行的建议，包括制定行业、政府和多边对话中使用的通用术语，以及将私营部门纳入武器审查委员会。

人工智能在军事应用方面的潜在治理

多边治理军事人工智能面临的主要挑战是不确定性——人工智能的应用方式尚不明朗，现有国际法是否足以涵盖人工智能应用可能引发的问题，以及如何通过合适的途径推进军事人工智能应用治理方法的发展。军事人工智能技术的快速发展以及缺乏标准且公认的定义，加剧了这些不确定性。即使是自主性这样的基本概念也存在多种解读，这使得立法和沟通都变得困难重重。

部分与会者（但并非所有与会者）对现行国际法是否足以规范人工智能军事应用的方方面面持怀疑态度。一些与会者对现有治理机制的充分性表示担忧，他们指出，人工智能军事应用具有一些特殊性，可能难以融入现有机制（例如国际人道主义法），或者适用现有机制可能会产生意想不到的后果。基于此，与会者普遍认为，最终需要多种治理方法——包括自我监管、透明度和建立信任措施以及政府间合作——才能有效降低人工智能军事应用的风险。值得注意的是，本次研讨会的参与者包括跨国非政府组织和跨国公司——这些实体在外交领域扮演着日益重要的角色。

研讨会最终达成共识，认为联合国系统为促进富有成效的对话提供了有益的平台，并有助于鼓励不同利益攸关方之间制定可能的治理方案。所有与会者都认为，除了对自主武器系统（LAWS）的讨论之外，人们对人工智能潜在军事应用（包括其益处、风险和治理挑战）的广泛理解和探讨尚处于起步阶段，而且确实不够完善。与会者欢迎并鼓励为利益攸关方提供更多机会，让他们相互学习、交流，并围绕人工智能军事应用带来的难题进行创新。

原文已上传知识星球

长按识别下面的二维码可加入星球

里面已有万余篇资料供下载

续费五折优惠

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：丁爸情报分析师的工具箱丁爸丁爸《【资料】军事人工智能的未来》