论坛·原创 | 国际冲突中智能社交机器人信息操控风险与应对路径

原创

李雪莲等
李雪莲等

中国信息安全

2026年11月5日 17:38
北京

去阅读

黄卫东

文 | 南京邮电大学外国语学院讲师 李雪莲；南京邮电大学管理学院讲师 孙殿臣；南京邮电大学管理学院院长 黄卫东；北京前沿未来科技产业发展研究院院长 陆峰

当前，国际冲突的较量已由物理战场延伸至网络空间。本文所称国际冲突，既包括乌克兰危机、加沙冲突等武装冲突，也包括地缘政治与领土争端，还包括冲突议题向介入国、援助国和第三方国家内部政策及社会矛盾外溢。这三类场景分别侧重战场态势、国际叙事和社会动员，其风险强度、信息时效与治理主体各异。社交媒体的实时发布、跨境传播和算法推荐，为国际冲突中各方发布战况、阐释立场及有组织信息操控提供了条件。生成式人工智能使社交机器人能够依照语言、身份和传播情境生成差异化内容，并借助账号集群协同扩散。本文分析智能社交机器人的能力演进、信息操控方式、传播路径与安全风险，并讨论分场景、多主体的协同应对方式。

一、生成式人工智能驱动社交机器人能力演进

生成式人工智能大规模应用之前，自动化账号已广泛参与有组织社交媒体信息操控。牛津大学互联网研究院发布的《产业化虚假信息：2020年全球有组织社交媒体操控调查》显示，已有81个国家存在有组织的社交媒体操控活动，其中，57个国家使用自动化账号。这为观察生成式人工智能介入前后的能力变化提供了历史参照。

一是从规则驱动向生成驱动转变。传统社交机器人主要依据预设规则完成定时发布、自动转发等功能，内容重复、角色固定。生成式人工智能使其能够根据事件变化生成不同立场、语气和语言版本的内容，并进行角色设定、翻译润色和多轮互动。OpenAI在2024年10月发布的《影响行动与网络行动：最新进展》显示，多起隐蔽影响行动已利用大模型生成多语种文章和评论、虚构账号资料以及辅助机器人程序运行。这意味着自动化账号的功能开始由机械执行延伸到内容生成、语境适配和身份模拟。

二是从同质化传播向集群协同转变。生成式人工智能可以为不同账号生成差异化内容，自动化程序可组织多个节点完成首发、转发、评论和争辩等任务。2025年发表于《自然》（Nature）期刊新子刊《npj复杂性》（npj Complexity）的论文《Telegram多语种协调活动的大规模检测》，分析了400余万条英俄政治信息，识别出五个协调性信息行动网络。其中，一个俄罗斯网络由10个俄罗斯机构频道和22个外围频道构成，另有部分频道几乎同步发布相同或相近的英俄双语信息。该研究尽管没有直接认定这些内容由生成式人工智能驱动的智能社交机器人生成，但揭示了跨语种自动化传播和多节点协同的组织特征。

三是从单平台放大向跨平台行动转变。生成式人工智能提高了同一叙事在不同语言、地区和平台之间的快速改写与迁移能力，使社交机器人可以与仿冒网站、即时通信频道、短视频账号和人工操作者共同构成多层传播网络。2026年，欧盟对外行动署与乌克兰反虚假信息中心披露的“ZOV”网络包括68个网站、40个Telegram频道和40个VKontakte页面，综合运用人工智能辅助生产、地区化投放、跨平台放大和信息洗白等手段。这说明社交机器人已由机械化“扩音器”转变为组织化信息操纵行动中的智能节点。

二、国际冲突中智能社交机器人的信息操控方式

智能社交机器人并不只会制造和传播虚假信息，还会通过选择讨论对象、组织解释框架、激发群体情绪、伪装传播身份和制造网络声量干预国际冲突的信息环境，主要表现为议题操控、叙事操控、情绪操控、身份操控和网络化操控。

一是议题操控，即通过高频发布和选择性呈现改变信息可见度。智能社交机器人可以集中传播战争损失、平民伤亡或能源价格等信息，同时，淡化不利内容，使特定议题获得不成比例曝光。美国司法部2024年公布的材料《关于破坏俄罗斯政府支持的秘密外国恶意影响行动的公告》称，“二重身”（Doppelganger）行动围绕军援成本、能源价格和国内民生问题向特定国家和群体投放内容。该材料能够说明其所披露的域名、广告和账号关联，但“削弱国际社会对乌支持”这一目标属于美方归因，仍需结合其他来源审慎判断。议题操控的关键并非凭空捏造事实，而是通过信息选择和重复曝光影响公众优先关注的内容。

二是叙事操控，即把事实片段组织为具有责任归属和价值判断的故事框架，使同一事件存在不同的解释。OpenAI发布的报告《影响行动与网络行动：最新进展》称，“停止新闻”（Stop News）行动利用大模型生成英语、法语、俄语文章和评论，通过伪装成新闻机构的网站发布，并混合普通资讯与批评乌克兰及英国援乌政策的内容。该报告可以佐证相关账户对模型功能的调用方式，却无法单独证明其内容影响了受众。生成式人工智能的作用主要表现在迅速改写同一叙事，并按照目标国家的语言和政治语境调整表达。

三是情绪操控，即利用恐惧、愤怒、仇恨、屈辱等高唤醒情绪推动内容扩散。Meta的《2024年第一季度对抗性威胁报告》称，由以色列政治营销与商业情报公司斯托伊克（STOIC）运营的账号网络围绕加沙冲突和中东政治发布内容，并通过新闻媒体、美国议员及其他公共人物的账号投放评论。这些账号冒充不同身份的美国用户，使用疑似由人工智能生成的文本，表达对战争、校园抗议及反犹主义等问题的立场。根据该报告，Meta清理了510个Facebook账号、11个页面、1个群组和32个Instagram账号。该行动虽然没有形成大规模真实互动，但说明生成式人工智能已被用于批量制造带有群体身份和情绪立场的评论。

四是身份操控，即通过虚假头像、人物履历和语言风格模拟普通用户、专家、记者或冲突目击者。与机构账号相比，“当地居民亲历”“退役军人判断”或“留学生讲述”等个人化表达更容易降低受众戒备心。生成式人工智能可以自动生成姓名、简介，使用差异化风格语言，使同一操控者能够管理多个看似独立的数字身份。《影响行动与网络行动：最新进展》披露的“A2Z”行动使用大模型生成账号简介、分析目标帖文并用多语种作出回复，同时运营约150个X和Facebook账号。该案例说明，生成式人工智能模型降低了批量经营差异化身份的成本，但账号关联和行动归属仍须依赖平台日志、运营时序与基础设施等证据交叉确认。

五是网络化操控，即通过账号集群集中转发、互相评论、批量点赞和共享链接，制造特定议题受到广泛关注或特定观点获得多数认同的假象。不同账号分别承担首发、评论、辩护、反驳和跨平台搬运任务，将人为操控信息包装为自然形成的公共讨论。2024年，中央广播电视总台“玉渊谭天”分析与仁爱礁相关的11条境外传播路径发现，相关传播活动涉及10320个账号和77个关键节点。法国外国数字干预监测机构（VIGINUM）发布《“套娃”：针对媒体与事实核查群体的亲俄行动》报告描述，“套娃”（Matryoshka）行动通常先由两三个“播种账号”发布虚假内容，在三四十分钟后再由“引用账号”在媒体、公共人物和事实核查机构帖文下集中评论，平均间隔约45秒。

以上五种操控方式相互嵌套，议题操控决定公众“看到什么”，叙事操控决定公众“如何解释”，情绪操控影响公众“作何反应”，身份操控掩盖“谁在传播”，网络操控则制造“多少人支持”的假象。判断其风险时，应把可观察的技术行为、机构作出的责任归因和最终社会影响分隔开，避免用账号数量直接替代实际传播效果。

三、国际冲突中智能社交机器人信息操控的传播路径与安全风险

上述五种信息操控方式呈现了智能社交机器人干预国际冲突信息环境的主要维度，其实际影响还取决于操控性信息如何进入信息环境、扩大传播并进入真实用户社群。从传播过程看，典型路径包括“内容生产与隐蔽投放—网络协同与算法放大—跨平台迁移与影响转化”三个阶段。

一是内容生产与隐蔽投放构成传播起点。操控者围绕战场变化、外交争议和社会矛盾设置议题与叙事方向，借助生成式人工智能快速生成不同语言、立场和表达风格的图文或视频，再通过虚假头像、人物履历、地域身份和仿冒媒体包装，使操控性内容呈现来自不同主体和信源的表面特征。与传统机器人重复转发相同文案相比，差异化内容与虚假身份相结合，能够弱化批量传播的机械特征，并为后续扩散建立初始传播节点。

二是网络协同与平台算法机制共同扩大信息可见度。多个账号按照预设分工承担内容首发、接力转发、评论互动、争议制造和定向引流等协同任务，在短时间内形成网络集中互动。付费广告、网络影响者转发和真实用户参与，均可能进一步提高相关内容的曝光度，并触发平台推荐、热榜或搜索排序机制。操控者无须直接控制平台算法，而是通过人为制造高活跃度和高关注度信号，影响平台的流量分配，使组织化传播呈现自然舆论形成的表象。

三是跨平台迁移与真实社群渗透推动潜在影响转化。当某一平台的内容受到限制，或者需要接触更广泛的受众时，相关信息可以借助链接、截图、短视频剪辑或二次转述，在仿冒网站、即时通信工具、社交媒体和新闻平台之间迁移。经过多次转载与重新包装，信息与原始来源之间的联系逐渐弱化。一旦相关内容突破虚假账号构成的初始传播网络，被真实用户、媒体或公共人物引用和讨论，人为制造的网络声量便可能进入真实公共讨论，影响受众的事实判断、责任认知和情绪态度，并在特定条件下向政策讨论或现实行动传导。信息曝光并不等同于认知改变，进入真实社群只是产生实际影响的重要条件，并非必然带来态度或行为变化。

上述传播路径与不同冲突场景结合后呈现不同风险重心：武装冲突强调战场信息的时效和指令真实性，地缘政治争端侧重国际议题与外交立场竞争，冲突外溢则更易与第三方国家的族群、宗教和政党矛盾相结合。由此，可能引发以下三类安全风险。

一是战场信息污染与态势误判风险。智能社交机器人批量传播合成影像、虚假坐标等内容，可能污染开源情报来源，增加军事机构、新闻媒体和公众的核验成本。2022年3月，一段伪造的泽连斯基要求乌克兰军民“放下武器”的视频曾出现在遭入侵的乌克兰电视台网站，并扩散至社交平台。该视频因制作较为粗糙且及时得到澄清，未造成明显影响。这表明合成内容与网站入侵及紧急战况结合后，可能干扰指令识别和态势判断。

二是国际认知干扰与外交决策风险。智能社交机器人可以针对介入国、援助国或第三方国家选择性放大能源价格、军事援助、难民安置和历史矛盾等议题，将外部冲突转化为国内政策争议，干扰公众对责任归属和政策成本的判断。不过，外交政策还受国家利益、制度程序和决策主体等因素影响，不能将舆论变化直接等同于政策转向。

三是社会极化加剧与现实冲突传导风险。国际冲突外溢至第三方国家后，围绕族群、宗教、政党和移民等矛盾实施身份操控与情绪操控，可能强化线上对立并向抗议、骚扰等现实行动传导。2024年，Meta清理的STOIC账号曾冒充不同群体，围绕加沙冲突在媒体和美国议员账号下发布评论，试图将国际冲突嵌入当地族群、宗教和校园矛盾。该案例只能说明操控企图，而风险评估仍应考察真实用户参与、主流议程变化和线下行为。

四、智能社交机器人信息操控的防范实践及其局限

智能社交机器人正由单账号自动传播转向生成内容生产、账号集群协同和跨平台运作，传统以删除虚假信息和封禁异常账号为主的方式已难以覆盖信息操控全过程。现有防范实践主要包括技术识别和治理处置：前者综合账号、内容、网络和来源等多维特征发现异常活动；后者依托政府、国际组织和网络平台开展风险预警、行动归因与处置。

（一）技术识别：从单一特征检测转向多源证据研判

早期社交机器人检测主要依据发帖频率、转发比例、昼夜节律和关注关系等单一特征判断账号的自动化程度。印第安纳大学网络科学研究中心（OSoMe）开发的机器人检测器（Botometer）即典型的账号级检测工具。该团队在2024年指出，由于X停止提供免费研究数据接口，该工具只能依赖2023年6月以前的历史数据，其模型训练时间早于ChatGPT等人工智能工具，因而不具备识别人工智能增强型机器人的能力。这表明单纯依赖账号特征的检测方法受到数据获取和技术迭代的双重制约。同时，识别重点逐渐由判断单个账号是否自动化，转向发现账号之间是否存在组织化协同。构建“账号—内容—链接—话题”传播图谱，可以识别同步发布、共享域名和反复互动等异常关系；文本语义和账号历史内容可辅助判断批量生成，图像、语音与人物行为的一致性则可用于深度伪造检测。针对泽连斯基深度伪造视频，研究人员利用其在四种场景超过8小时的真实视频建立面部和手势行为模型，以人物特有的表达和动作特征辅助鉴伪，但该方法依赖大量高质量样本，适用对象有限。

另一类技术识别路线是由检测生成痕迹转向验证内容来源。内容来源与真实性联盟（C2PA）制定的内容凭证标准，利用密码学签名记录数字内容的来源、修改过程及人工智能工具使用情况。然而，内容凭证只能证明来源记录是否完整、是否遭到篡改，不能判断内容陈述是否真实，且截图和转码还可能造成凭证丢失。因此，应综合账号行为、传播网络、内容特征、来源凭证和平台日志，形成“异常发现—网络关联—内容核验—来源追溯—人工复核”的多源证据研判过程。

（二）治理实践：多主体参与的信息操控防范

现有实践对智能社交机器人的治理主要围绕异常账号及协同网络识别、生成内容标识、传播基础设施阻断和跨主体信息交换展开。政府、国际组织、平台企业与模型提供者掌握的证据不同，任何单一主体都难以独立完成识别、归因和处置。

美国侧重把平台账号、仿冒域名、广告投放和资金关系纳入联合调查。美国国家情报总监办公室（ODNI）、联邦调查局（FBI）、网络安全与基础设施安全局（CISA）通过联合研判和公开预警识别外国影响行动；美国司法部和财政部则通过域名扣押、刑事指控和经济制裁等方式实施处置。2024年9月，美国司法部依据联邦调查局提交的宣誓书扣押Doppelganger行动使用的32个互联网域名，并公布仿冒媒体、虚假账号、人工智能生成内容、付费广告和网络影响者之间的联系。这类措施可以阻断智能社交机器人依赖的部分传播基础设施，却促使其高度依赖平台日志和跨部门情报；其公开归因同时具有执法与政策表达属性，仍需接受外部证据检验。

欧盟的制度重点是将智能社交机器人置于平台系统性风险治理之中。《数字服务法》要求超大型网络平台评估推荐机制对公共讨论和选举进程造成的风险。2025年，《虚假信息行为准则》正式纳入《数字服务法》共同监管框架，成为衡量大型平台履行虚假信息风险治理义务的重要依据。2024年发布的《超大型在线平台和超大型在线搜索引擎选举进程系统性风险缓解指南》，要求平台采取与生成式人工智能内容有关的风险缓解措施。《人工智能法》第五十条则规定了人工智能生成内容的机器可读标识和深度伪造披露义务。由此，欧盟治理重心已由单条虚假内容处置扩展至平台算法、信息透明和系统性风险控制。

北约形成以信息环境评估、预先防范和成员协同为核心的应对模式。2024年发布的《北约应对信息威胁的方法》提出ABCDE分析框架，即从行动主体（Actor）、行为（Behaviour）、内容（Content）、传播程度（Degree）和影响效果（Effect）五个维度监测和评估信息威胁，并将应对划分为理解、预防、遏制与缓解、恢复四项功能，同时推动成员采用兼容的分析和信息交换标准。

平台与模型提供者更接近智能社交机器人的运行数据。Meta依据“协调性虚假行为”识别共享基础设施和异常账号网络。Google在2025年第一季度限制47个与Doppelganger行动有关的域名进入Google新闻。截至2026年7月，TikTok以内容凭证、创作者标识和隐式水印累计标记了超过30亿条人工智能生成视频。平台和模型需要与政府、研究机构和其他平台进行交叉核验。

（三）现实局限：技术识别与治理处置的共同制约

现有防范仍面临三类共同制约。一是人机边界日益模糊。人工账号可以负责建立身份和维持关系，生成式人工智能模型生产差异化内容，自动化程序完成投放；低频发布、多语种变体和对抗性改写又会削弱传统检测特征。二是技术识别与行动归因之间存在证据鸿沟。发现内容由人工智能生成，不等于确认账号由机器人操控；发现账号协同，也不能直接证明其背后的组织者和行动意图。三是跨平台数据壁垒限制完整传播链还原。操控网络可以通过更换账号、域名和平台继续传播，而不同主体在数据获取、威胁认定和处置权限上又存在差异。过度依赖自动评分和规模化清理，还可能对媒体机构、高活跃普通用户以及正常的匿名或讽刺表达作出误判。因此，智能社交机器人信息操控已超出单一检测工具、单个平台和单一治理主体的应对能力。

五、国际冲突中智能社交机器人信息操控的应对路径

针对前述传播风险、技术识别难点和现有防范模式的局限，应建立政府部门、平台企业、模型提供者、媒体、研究与事实核查机构、国际组织共同参与的协同体系。

一是建立分场景、多主体的监测协同机制。武装冲突当事方应依托多部门联合平台核验军事命令、人物身份、地理位置和合成影像；介入国和援助国应重点监测针对援助成本、联盟关系和选举议题的操控；第三方国家则应识别冲突叙事与本国族群、宗教和移民矛盾的结合。三类场景均可采用“账号—内容—网络—来源—事件”框架，但预警阈值和牵头主体应有所区别。

二是建立多源证据支撑的研判与归因机制。平台提供账号关系、投放和传播日志；模型提供者核验异常调用模式；域名注册与网络服务机构提供基础设施线索；研究和事实核查机构分析跨平台传播；政府部门依法整合资金与组织关系。联合研判应区分“发现异常行为”“确认协同网络”“识别运营主体”和“判断行动归属”等层级，并公开证据范围与可信程度。

三是建立跨平台、跨境的数据协同机制。平台、模型提供者、监管机构和研究力量应采用统一的风险信息规范，在保护个人信息和商业秘密的前提下，共享内容指纹、账号关联、异常调用和传播时序等信息。武装冲突中的虚假指令或人物冒用可进入紧急通报通道，地缘争端和政策讨论操控活动则应保留较长观察期，防止以安全名义压制正常表达。国际组织可推动证据格式和响应接口互认，但不宜替代各国依法作出的责任判断。

四是形成与风险和国家角色相匹配的处置协同。针对战场场景的虚假军事命令、重要人物冒用和虚假坐标，冲突当事国可由权威部门与平台快速核验、限流或阻断并同步保存证据；对涉及外交立场和援助政策的内容，应优先采用来源提示、事实核查和透明披露的方式，避免把观点分歧等同于操控；对向第三方国家社会矛盾渗透的账号网络，可根据协同行为、真实用户参与和线下风险逐级采取限制推荐、暂停广告和账号清理的措施。各类处置均应设置人工复核、申诉和事后评估环节。

五是形成权威信息供给与社会韧性协同。政府部门应及时发布可核验事实、原始材料和事件时间线；媒体与事实核查机构负责独立核验和多语种解释；平台提供来源标识与纠错入口；学校和社会组织加强对虚假身份、协同行为和生成内容的识别教育。冲突当事国应优先保障战场和应急信息的连续供给，介入国及第三方国家则应提高政策信息透明度，减少操控者利用信息空缺和既有社会矛盾的空间。协同效果还应依托真实社群渗透程度、纠错到达率和线下风险变化进行评估，而非仅以删帖和封号数量衡量。【本文得到中国博士后科学基金第77批面上资助项目“面向低资源语言的多模态民众诉求识别与应答研究”（项目号：2025M770777）和江苏省社科应用研究精品工程外语类课题“国别区域视域下突发事件语料库建设与国际传播策略研究”（编号：25SWC-12）的支持】

（本文刊登于《中国信息安全》杂志2026年第9期）