认知战(第5部分):人工智能

admin 2026-06-23 06:08:59 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 该报告探讨人工智能在认知战中的应用,指出AI并未改变认知战的根本目标(如影响信任、决策和行为),但显著提升了操作效率与规模。AI通过加速内容生产、实现个性化宣传、生成合成媒体、污染数据环境等方式,将传统影响手段工业化、精准化,对选举、国防和公众信任构成新威胁,并可能因过度依赖导致认知脆弱性。 综合评分: 78 文章分类: 威胁情报,ai安全,认知战,心理战,信息战


cover_image

认知战(第5部分):人工智能

止戈为武 止戈为武

蓝军开源情报

2026年6月22日 08:47 湖南

在小说阅读器读本章

去阅读

深度复盘经典战例,捍卫大国认知高地

【摘要】

2026年5月10日,军事信息观察发布报告《认知战-第五部分》。影响、欺骗、宣传、心理压力、反射控制、叙事战和战略操控早在人工智能出现之前就已存在。

这一切都不是从大型语言模型、深度伪造、合成声音或自动化内容农场开始的。国家、情报机构、军队、政治运动和极端组织一直试图塑造认知、利用恐惧、影响信任,并引导对手做出有利选择。

报告《认知战-第五部分》译文1.2万字,本文摘录4000字。需购买报告加微信:19918899590(微信同号)。

关键词:认知战、心理压力、反射控制、叙事战、战略操控

这是 认知高地 的第 65期分享 作者 | 止戈为武     来源 | 编译 排版 | 014        图片 | 来源于网络

一、人工智能并非创造了认知战争,但它改变了操作条件

人工智能改变的不是目标。它改变了操作条件。

目标依然熟悉:信任、感知、解读、决策、凝聚力和行为。但这些手段变得更快、更便宜、更具可扩展性、更具个性化、更持久且更具适应性。曾经需要大型宣传组织、翻译团队、人力内容资源、媒体基础设施和漫长准备周期的任务,现在可以压缩成更小的工作流程。叙事可以被生成、本地化、测试、调整、翻译、视觉包装并在多个平台上重新分发,阻力远小于以往。

这就是为什么人工智能在认知战中如此重要。它并不能取代旧的工具箱。它增强了它。它使叙事框架更容易本地化,影响行动更易于扩展,合成人格更易于创建,骚扰更容易自动化,算法操作更容易测试,反射控制也更容易支持,持续不断的定制线索。实际上,人工智能将许多熟悉的方法转化为更快、更便宜且更具持久性的版本。

二、从手工影响到工业化影响

人工智能给认知战带来的主要变化是消除了旧有的瓶颈。过去,影响力操作需要时间、人员、语言技能、媒体基础设施、手动测试以及相对可见的协调。

即使是大型国家支持的行动也有实际限制。内容必须由人编写、翻译、改编、分发、监控和调整。人格面具必须手动维护。战役必须经过人类生产周期。这种摩擦并未阻止操控,但限制了游戏的节奏和规模。

人工智能几乎在影响过程的每个阶段都减少了这种摩擦。内容生产速度加快。翻译和本地化成本降低。假身份更容易生成和维护。叙事可以通过多种变体进行测试。

图像、音频和视频可以高速生成。信息可以根据不同的受众、语言和情感触发点进行调整,而无需同等程度的人力劳动。曾经看似竞选的活动,可能开始像一条持续运行、学习、调整和再分配的运营线。

三、人工智能作为所有之前工具的放大器

人工智能并不是作为认知战工具箱之外的独立类别。它贯穿了工具箱,并放大了第四部分中几乎所有已讨论的方法。叙事框架更容易本地化。伪本地媒体的制造变得更容易。

机器人生态系统变得更加适应性强。合成人格变得更加可信。深度伪造的制作速度更快。骚扰变得更容易扩展。算法可视化变得更容易测试和优化。通过不断的定制线索、虚假信号和合理的解释,反射控制变得更容易支持。

OpenAI 2026 年的威胁报告非常清楚地支持了“AI 加上现有基础设施”这一观点。评估指出,恶意行为者通常将AI模型与网站和社交媒体账户等传统工具结合使用,而非单独使用AI。

这正是我们需要理解的作战模式。人工智能不能取代网站、社交平台、虚假身份、网络访问、机器人网络或影响力操作者。这让他们更高效、更灵活,也更难耗尽。

四、合成介质与验证时间的崩溃

合成介质在概念上并不新鲜。伪造文件、伪造照片、伪造证人、冒充和伪造证据长期以来属于主动措施、情报行动、政治操纵和战时欺骗的领域。人工智能改变的是这些材料现在生产和投入信息环境的速度、成本、真实性和数量。这种方法很老旧。生产周期是新的。

这就是为什么合成媒体必须被理解为不仅仅是“深度伪造”。该类别现在包括克隆声音、伪造截图、篡改图像、AI生成视频、合成证人、虚假采访、伪本地新闻、伪泄密、伪造文件以及设计得足够合理以便快速传播的伪造证据包。在认知战中,目标很少是制造一件经得起法医审查的文物。目标是制作看起来可信的材料,足够长时间塑造公众认知,直到验证赶上。

欧洲刑警组织多年来一直警告说,深度伪造和合成媒体给执法、证据完整性、防欺诈和公众信任带来了严重挑战。其分析将深度伪造视为对调查、身份认同和视听证据信心的实际威胁,而非未来新奇事物。

Microsoft 2025年数字防御报告将同样的问题引入国家安全环境,指出国家级行为者已利用合成媒体塑造冲突叙事,并以使受众麻木、耗尽检测系统的方式充斥信息空间。

五、个性化:从大规模宣传到精准影响

人工智能改变影响力,因为它将操控更贴近个体。旧的宣传模式围绕大众信息构建:一张海报,一张广播,一条报纸线条,一条官方叙事,一个庞大的受众。

现代影响仍然使用大众叙事,但人工智能使得将这些叙事分割成针对不同社区、语言、恐惧、怨恨、身份和行为信号的定制版本变得容易得多。同一条战略信息可以多次重写,直到它对接收者来说具有本地性、个人性和情感相关性。

这时人类的心智变得更加暴露。人们很少仅靠抽象的论证控。当信息触及到他们已经害怕、怨恨、不信任、希望或感到羞辱的事物时,他们会更加脆弱。

人工智能帮助敌对行为者识别这些情感切入点,并制作符合其内容的内容。其中一组可能会收到有关腐败的信息。还有人可能会收到有关迁徙的信息。还有人可能会收到关于战争疲劳、能源价格、国家认同、精英背叛、宗教紧张或对盟友不信任的信息。战略目标可能相同,但情感路径不同。

六、人工智能与累积条件反射

累积条件反射是人工智能特别危险的地方,因为这种效果很少是立竿见影、显著或容易归因的。这并不依赖于一个病毒式谎言或一个完美的深度伪造。

它通过重复、变奏、情感强化以及长期暴露在塑造信息环境中来发挥作用。随着时间推移,观众会更频繁地看到某些叙事,从更多渠道听到,以不同形式接触,并将其作为公共生活的背景噪音吸收。这种转变可能很慢,但它改变了哪些是合理的、什么是正常的,哪些是开始显而易见的。

人工智能强化了这一过程,因为它能够生成无尽的同一信息变体,而不会让重复看起来完全相同。单一的战略叙事可以转化为文章、评论、视频、表情包、虚假采访、标题、截图、摘要、“本地”观点文章以及合成的社交媒体帖子。

每个版本可能略有不同,根据不同的受众、语气、语言或情感触发点进行调整。这使得条件反射更难察觉,因为人们并不总是看到同一句话被重复。他们看到的是同一个框架以多种形式再次出现。

七、数据中毒、开源情报污染与模型污染

AI不仅仅制造敌对内容。它还对人工智能系统学习、检索、总结、分类和推荐的信息环境完整性产生了新的依赖。这种依赖是认知战领域最严重的国防和国家安全风险之一,因为它将问题从可见的操控转移到了污染的输入。如果开放信息环境被污染,人工智能辅助工具可能会将污染转化为分析、摘要、警报、趋势评估或决策支持输出。

这就是为什么数据污染、开源情报污染和模型污染需要被视为超越技术风险的原因。它们是认知风险。人类分析师可能会阅读控的文章并质疑来源。

人工智能系统可能会检索同一篇文章,与其他受污染来源比较,发现重复的模式,并以连贯的摘要呈现结果。模型并不“理解”人类意义上的真理。它处理模式、概率、检索材料、源信号和学习到的联想。如果输入环境被污染,输出看起来结构化,却带有扭曲的假设。

八、人工智能在网络驱动影响行动中的应用

当人工智能与网络行动结合时尤其成问题,因为认知战不再仅限于内容,而是开始与访问、入侵、盗窃、冒充、破坏和压力融合。网络行动可以提供原材料,而人工智能则能帮助将这些材料转化为叙事、假证据、社会工程、合成媒体、钓鱼、泄密或假泄密。

Microsoft 2025年数字防御报告将网络驱动的影响行动定义为利用社交媒体、假新闻和深度伪造等数字工具操控公众舆论或行为的行为,其2025年报告描述了国家级行为者迅速采用人工智能以扩大网络和影响力活动。

这种重叠很重要,因为网络访问改变了影响力的可信度。当完全捏造的主张没有明显证据时,更容易被驳回。以被盗材料、选择性公开的文件、被盗账号、伪造截图或篡改元数据为支撑的说法则难以应对。

即使材料不完整、被篡改或断章取义,看似“证据”的存在也能迫使机构采取被动反应的态度。随后,人工智能加速下一步:总结被盗材料、翻译、围绕其构建叙事、生成虚假辅助内容、合成声音或图像,并根据不同受众调整包装。

九、这对政府、选举和公众信任意味着什么

人工智能驱动的认知战争的累积效应在政府、选举和公众信任层面最为明显,因为感知转化为合法性、权威和决策权。这一阶段的变化不仅是影响力活动的规模,还在于塑造社会不同部分同时体验政治现实的能力。

当叙事、合成媒体、算法放大、个性化和网络驱动的影响力开始重叠时,选举和治理过程不再处于共享的信息基线中。

被发现的案例之一是针对日本首位女性首相的抹黑运动,利用人工智能工具制作旨在抹黑政治领导层并塑造选举观感的叙事和内容。

十、这对国防和指挥官意味着什么

对于国防组织和指挥官来说,人工智能以非常实际的方式改变了认知战。它不仅仅是对手用来对付社会的工具。军方自身也将越来越依赖它来进行情报分流、开源情报分析、ISR处理、总结、规划支持、目标锁定工作流、后勤、网络防御和决策支持。

这创造了真正的价值,因为没有人工员工能手动处理现代操作产生的大量数据。这也会产生依赖性,因为决策越依赖人工智能辅助系统,输入层、模型行为、验证过程和人类判断的完整性就越重要。

十一、过度依赖问题:当人工智能成为认知脆弱性时

AI在国防环境中的优势在于速度、规模以及处理复杂性的便利性。风险出现在这些优势开始取代而非支持人类判断时。过度依赖通常不会显得是有意识的决定。

它通过便利性、时间压力以及反复接触看起来连贯、结构化且权威的输出而逐渐发展。当这种转变发生时,人工智能不再是工具,而是成为现实被解读的认知过滤器。

这正是对手试图利用的条件。认知战不需要完全的欺骗。它受益于部分扭曲、错误的信心和延迟验证。

如果决策者开始依赖那些快速压缩信息但未能完全揭示不确定性、来源或背景的系统,那么环境就更容易间接塑造。没有验证的速度、没有理解的信心以及对不透明系统的依赖,造就了一种非狭义技术性的脆弱性。它是认知和组织层面的。

十二、为什么这很难辩护

人工智能不仅扩展了可做的事情。这改变了谁拥有优势。在当前环境下,AI的进攻使用成本低廉、快速、可否认且易于扩展,而防御则依然较慢、受限且更显眼。这种失衡并非偶然。它源于数字系统、民主制度和安全流程的结构。

在进攻端,进入门槛降低了。内容可以大量生成,即时翻译,适应不同受众,并在资源有限的多个平台上分发。基础设施可以租赁或改造。人格面具可以被创建和放弃。

叙事可以近乎实时地测试和反复演练。归属可能通过中介、承包商、松散关联的网络或完全虚构的身份被掩盖。结果是,这种影响活动可以持续存在,而不会被中央显见。

十三、实用识别问题

如果技术理解不能转化为决策时可用的检查,是不够的。在AI驱动的环境中,风险很少会显现。它通过那些未被质疑的小假设、被表面接受的输入,以及被当作比实际更具权威性的输出呈现出来。因此,实际认可需要建立在能够持续提问的问题上,跨团队、跨工具和情境,同时不使运营停滞。

以下问题的目的不是制造官僚主义。而是在正确的地方制造摩擦。当人工智能被整合进智能工作流程、开源情报分析、ISR处理或决策支持系统时,这些问题有助于揭示真正的漏洞所在:数据、管道、验证和人工解读。

十四、结论:AI改变的是节奏,而不是目标

人工智能并不会改变认知战争的根本目的。目标始终如一:塑造认知,影响决策,削弱信任,缩小连贯、及时行动的空间。人工智能改变的是实现这一目标的节奏、可持续的规模,以及在不同受众和情境中施加压力的精准度。

在这一部分,出现了一个一致的模式。早期影响和欺骗形式中已存在的手段并未消失。它们被加速、工业化并相互连接。叙事框架制作更快,本地化也更容易。放大变得更便宜、更自适应。合成介质压缩了制造与反应之间的时间。

个性化允许在个人恐惧、身份和行为信号层面施加压力。数据环境本身也变得有争议,这不仅在公共话语层面引入风险,也在分析和决策支持系统中存在风险。这些变化并未改变认知战的逻辑,但它们显著改变了这种逻辑执行的速度和效果。

《认知战-第五部分》

【目录】

一、人工智能并非创造了认知战争,但它改变了操作条件 1

二、从手工影响到工业化影响 4

三、人工智能作为所有之前工具的放大器 7

四、合成介质与验证时间的崩溃 13

五、个性化:从大规模宣传到精准影响 18

六、人工智能与累积条件反射 23

七、数据中毒、开源情报污染与模型污染 28

八、人工智能在网络驱动影响行动中的应用 34

九、这对政府、选举和公众信任意味着什么 39

十、这对国防和指挥官意味着什么 43

十一、过度依赖问题:当人工智能成为认知脆弱性时 49

十二、为什么这很难辩护 54

十三、实用识别问题  58

13.1这个AI系统使用了哪些数据? 58

13.2谁控制数据流水? 59

13.3我们怎么知道这个源头是真实的? 59

13.4当开源情报被污染时会发生什么? 60

13.5谁在决策前验证AI输出? 60

13.6什么是人类覆盖? 61

13.7我们能解释一下为什么系统会给出这个答案吗? 61

13.8人工智能是在加速判断,还是正在取代它? 61

十四、结论:AI改变的是节奏,而不是目标 62

作者 | 止戈为武

来源 | 编译

排版 | 014

图片 | 来源于网络


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:蓝军开源情报 止戈为武 止戈为武《认知战(第5部分):人工智能》

评论:0   参与:  0