文章总结： 微软报告指出威胁行动者正利用AI加速攻击并降低门槛，应用涵盖侦察、钓鱼及恶意软件开发等阶段。朝鲜黑客利用AI伪造身份，部分恶意软件可动态生成脚本。当前AI主要起决策支持作用。微软建议企业将此类活动视为内部风险，重点检测异常凭据并强化身份系统。谷歌与亚马逊亦观测到类似滥用趋势。 综合评分： 85 文章分类： 威胁情报,AI安全,网络安全

微软：AI已用于攻击的每个阶段

Lawrence Abrams Lawrence Abrams

代码卫士

2026年3月10日 18:11 北京

  聚焦源代码安全，网罗国内外最新资讯！

编译：代码卫士

微软指出，威胁行动者们正越来越多地利用人工智能加快攻击速度、扩大恶意活动规模，并降低网络攻击各个环节的技术门槛。

微软威胁情报团队发布报告提到，攻击者正在将生成式AI工具用于广泛的任务中，包括侦察、钓鱼、基础设施开发、恶意软件创建以及入侵后的活动。在许多案例中，AI被用于编写钓鱼邮件、翻译内容、总结被盗数据、调试恶意软件，以及协助编写脚本或配置基础设施。微软提醒称， “在这些应用中，AI起到了力量倍增器的作用，减少了技术阻碍并加速了执行过程，而人为操作者仍保留对目标、攻击对象以及部署决策的控制权。”

AI被用于增强网络攻击能力

微软已观察到多个威胁组织将人工智能整合到网络攻击中，如朝鲜黑客组织Jasper Sleet（Storm-0287）和Coral Sleet（Storm-1877）将这项技术用作远程IT工作者攻击活动中。AI工具帮助生成逼真的身份信息、简历和通信内容，以入职西方公司并维持访问权限。

该报告还说明了AI如何被用于辅助恶意软件开发与基础设施创建：威胁行动者利用AI编码工具生成和优化恶意代码、排查错误，或将恶意软件组件移植到不同的编程语言中。一些恶意软件实验显示出AI赋能型恶意软件的迹象，它们能够动态生成脚本或在运行时修改自身行为。

微软还观察到Coral Sleet利用AI快速生成虚假公司网站、配置基础设施，并对其部署进行测试和故障排除。当AI安全防护措施试图阻止AI在这些任务中的使用时，威胁行动者便会利用越狱技术诱使大语言模型生成恶意代码或内容。

除了生成式AI应用外，微软公司的研究人员发现威胁行动者尝试使用代理型AI来自主执行任务并根据结果进行调整。然而，微软表示，AI目前主要被用于决策支持而非自主攻击。

由于许多IT工作者活动依赖于对合法访问权限的滥用，微软建议各组织控股皮将这些计划及类似活动视为内部风险进行处理。此外，鉴于这些由AI驱动的攻击与传统网络攻击相似，防御者应侧重于检测异常凭据使用、强化身份系统以抵御钓鱼攻击，并保护可能在未来攻击中成为目标的AI系统。

其它组织机构也观察到威胁攻击者越来越多地利用人工智能来发起攻击并降低准入门槛。谷歌最近发布报告称，攻击者在网络攻击的各个阶段都在滥用其Gemini AI，而这与亚马逊在这场活动中观察到的情况如出一辙。亚马逊和Cyber and Ramen安全博客最近也报道称某威胁行动者在攻击活动中使用了多种生成式AI服务，入侵了600多台FortiGate防火墙。

开源卫士试用地址：https://oss.qianxin.com/#/login

代码卫士试用地址：https://sast.qianxin.com/#/login

推荐阅读

AI 编程助手 Cline CLI 2.3.0遭篡改，悄悄安装 OpenClaw

AI 助手OpenClaw 易遭一次点击 RCE 攻击

用AI攻击AI：Ray AI开源框架中的老旧漏洞被用于攻击集群

AI供应链易遭“模型命名空间复用”攻击

原文链接

https://www.bleepingcomputer.com/news/security/microsoft-hackers-abusing-ai-at-every-stage-of-cyberattacks/

题图：Pixabay License

本文由奇安信编译，不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。

奇安信代码卫士 (codesafe)

国内首个专注于软件开发安全的产品线。

    觉得不错，就点个 “在看” 或 “赞” 吧~

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：代码卫士 Lawrence Abrams Lawrence Abrams《微软：AI已用于攻击的每个阶段》