文章总结： RUSI报告指出，对手正利用AI赋能网络攻击与制裁规避，通过伪造文件及优化洗钱实现欺诈链条全面编排，形成攻防‘结构性不对称’。企业需将其视为信任架构问题，建议引入防御性AI、采用行为分析、设置API断路器并强化远程身份验证，以应对AI军备竞赛。 综合评分： 82 文章分类： AI安全,威胁情报,安全建设,网络安全,安全意识

企业AI最大的风险：从提效变成失控

原创

Paul Barker Paul Barker

信息安全D1net

2026年7月2日 17:20 北京

在小说阅读器读本章

去阅读

点击上方“蓝色字体”，选择 “设为星标”

关键讯息，D1时间送达！

企业网D1net

最新报告警告，朝鲜、伊朗等正利用AI绕过制裁、实施网络攻击，并推动扩散融资进入“AI赋能”时代。AI不仅能批量生成虚假身份、自动管理空壳公司、优化加密货币洗钱策略，更开始编排整个欺诈链条，让攻击更快、更隐蔽、更规模化。专家指出，真正的威胁已不是AI辅助完成单一任务，而是AI主导整场骗局。面对攻击方与防守方日益加剧的“结构性不对称”，企业必须将风险视为信任架构问题，引入防御性AI、强化行为分析与身份验证，一场AI军备竞赛已经拉开帷幕。

一份来自英国皇家联合军种国防研究所(RUSI)的新报告指出，AI模型正帮助朝鲜和伊朗等政权在规避检测的同时实施网络攻击。

一份新研究报告警告称，在未来三到五年内，随着对手从AI辅助转型为AI赋能的规避制裁和扩散融资(PF)，政府和私营部门都需要迅速调整其识别与缓解方案。

这份名为《规避算法：AI赋能的大规模杀伤性武器扩散融资的崛起》的报告由英国国防与安全智库皇家联合军种国防研究所发布，报告将扩散融资(PF)定义为利用资金或金融服务来获取、开发或以其他方式交易大规模杀伤性武器(WMD)，报告指出：“朝鲜和伊朗目前正在开发和部署AI模型，以协助实施规避制裁的活动。”

核心发现包括：AI目前已经能够批量生产高质的虚假文件，并能实现报告所称的“管理庞大空壳公司网络的繁琐行政事务”自动化，报告还指出，AI驱动的系统能够“实时分析区块链模式，从而动态调整加密货币混币策略，有效规避检测工具”。

此外，报告提到：“例如生成式AI等工具能够制造出复杂的虚假身份证明文件，这已帮助朝鲜针对西方公司发起了网络钓鱼攻击。”

该报告的作者、RUSI金融与安全研究中心高级客座研究员Dr. Aaron Arnold在邮件中表示，写这份报告的起因是过去一年里，朝鲜利用AI促进和增强其网络攻击的活动有所增加，其表现形式为旨在为该国弹道导弹和核武器项目筹集资金的网络钓鱼计划。

对于需要保护自身企业免受规避制裁活动侵害的企业IT主管，他建议道：“这在很大程度上意味着要适应这样一个技术环境：传统以人为核心的安全防线正在被自动化技术所绕过。”

Arnold表示，对于IT主管而言，“这可能需要引入防御性AI、采用基于行为的分析、在大量使用API或MCP(多芯片封装/多方案合规平台)时设置‘断路器’、更新员工培训，并强化身份验证，尤其是针对任何远程招聘环节。”

区分AI辅助和AI赋能的活动是“核心”

Greyhound Research首席分析师Sanchit Vir Gogia表示，RUSI的这份报告至关重要，“因为它指明了正确的结构性转变，AI并不是凭空创造了规避制裁的手段，而是压缩并放大了现有的有效方法。”

他指出，虚假文件、合成身份、空壳公司、隐瞒实际受益所有权、加密货币洗钱等规避制裁的手段无一新鲜。“改变的是现在组合这些方法的速度、质量、数量以及协调性。”他说道。

根据Gogia的观点：“区分AI辅助和AI赋能的活动是核心所在，AI辅助的规避是将AI用于离散的任务：写一封更好的邮件、制作一份更干净的文件、生成一个更逼真的虚假个人资料、翻译一份说辞、总结法规或准备一份看似合理的求职申请，而AI赋能的规避则更为严重。”

一种“结构性不对称”

他表示，这种策略“开始协调系统本身，它将身份、文件、所有权结构、支付路径、云端访问、加密货币钱包、API调用和时间线串联在一起。两者的区别不在于AI是否帮人伪造了一份文件，而在于AI是否开始编排整个骗局。”

他指出，这正是报告的发现应该让企业领导者感到担忧的原因：“许多机构仍然假定坏人大多是人类、大多是线性的、大多是缓慢的，这种假设正在失效，AI让对手能够跨越更多渠道、使用更多语言、凭借更完善的文件和更强的耐心，以更少的错误进行更多次尝试，这超出了大多数企业审查流程所能承受的极限，这并不是天才罪犯发现魔法的故事，而是流水线式的完美谎言击败普通控制手段的故事。”

他指出，目前的证据在身份欺诈、文件欺诈、合成人设、远程员工欺诈、网络钓鱼、社交攻击、加密货币混淆以及工作流滥用等策略上最为明显。“完全自主的规避网络已隐约浮现，”他说道，“它们很严重，但目前还不是日常的常态。”

Gogia表示，这种区分很重要：“如果企业执迷于电影般科幻的自主智能体场景，却让远程招聘、供应商入驻、支付审批和文件审查漏洞百出，他们将以最平淡乏味的方式落败。”

他表示，该报告对“不对称性”的把握也很准确。“攻击方可以跨生态系统进行学习，”他说道，“他们可以爬取公开信息、复用泄露的记录、研究执法模式、测试入驻表格、检查公共采购数据、关注法院文件、探测合规阈值，并[利用这些信息]优化自己的行为。”

相比之下，防守方则受到隐私规则、碎片化数据、可解释性要求、管辖权边界、保守的运营模式和孤立的技术资产的限制。“攻击性AI进行广泛学习，”他说道，“防御性AI往往只能从碎片中学习，这就是结构性不对称。”

他解释说，监管环境也放大了这一问题，因为监管机构“仍然说着不同的方言。例如欧盟AI法案推动各机构对高风险AI承担更强的义务，而NIST风格的框架则侧重于风险管理、透明度和治理。”

信任架构问题

他指出，金融行动特别工作组(FATF)的预期推动了国家风险评估和反扩散控制，而银行监管机构则聚焦于模型风险、问责制和业务韧性。“这些方向没有一个是无关紧要的，问题在于，罪犯并不会围绕监管工作流来组织自己，他们是围绕结果来组织自己的。”

Gogia表示，这意味着“企业不能等待完整的全球规则手册，它不会及时到来。CIO、CISO、合规官和董事会现在就需要一个切实可行的治理模型，他们需要保护隐私的分析、受控的数据环境、审计追踪、法律保障以及明确的模型风险问责制。”

他表示，企业IT主管应该将这种情况视为一个信任架构问题，而不仅仅是一个狭隘的制裁筛查问题，他指出：“让人不安的事实是，AI不仅是在帮坏人写更好的钓鱼邮件或伪造更整洁的文件，它还在帮他们在整个企业工作流链条中制造合法性。”

可能的结果是一场“AI军备竞赛”

报告作者Arnold还指出，有迹象表明，网络罪犯已经发现了新的AI技术和能力，而合法企业同样可以将其用于合法的应用中。

他表示：“历史上罪犯针对棘手问题开发创新解决方案，随后被执法部门采用的例子屡见不鲜，我们的许多反金融犯罪政策，实际上都是对坏人利用系统或以新颖方式使用技术实施犯罪的回应。在这种情况下，我认为执法当局与坏人之间的一场‘AI军备竞赛’是最有可能的结果。”

Gogia补充道：“坏人并不是在教企业如何发明AI，他们是在教企业信任从哪里泄漏，这才是值得认真对待的教训。”

版权声明：本文为企业网D1net编译，转载需在文章开头注明出处为：企业网D1net，如果不注明出处，企业网D1net将保留追究其法律责任的权利。封面图片来源于摄图网

（来源：企业网D1net）

关于企业网D1net(www.d1net.com)

国内头部to B IT门户，同时在运营国内头部的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)

如果您在企业IT、网络、通信行业的某一领域工作，并希望分享观点，欢迎给企业网D1net投稿。

投稿邮箱：

[email protected]

合作电话：

010-58221588（北京公司）

021-51701588（上海公司）

合作邮箱：

[email protected]

企业网D1net旗下信众智是CIO（首席信息官）的专家库和智力输出及资源分享平台，有六万多CIO专家，也是目前较大的CIO社交平台。

信众智对接CIO为CIO服务，提供数字化升级转型方面的咨询、培训、需求对接等落地实战的服务。也是国内较早的toB共享经济平台。同时提供猎头，选型点评，IT部门业绩宣传等服务。

扫描 “二维码” 可以查看更多详情

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：信息安全D1net Paul Barker Paul Barker《企业AI最大的风险：从提效变成失控》