文章总结： 无护栏AI已成为网络犯罪新引擎，公开模型下载量超2200万次，犯罪分子通过租用合法模型和云基础设施实施攻击。防御者需假设已发生入侵，转向行为检测、AI对抗AI和欺骗技术等主动策略。关键建议包括实施自动化更新、保持MFA和日志完善，以应对AI加速的漏洞利用和攻击自动化。 综合评分： 87 文章分类： AI安全,威胁情报,恶意软件,安全意识,安全建设

无护栏AI正在推动网络犯罪进入新时代

原创

SecurityMagazine SecurityMagazine

安全行者老霍

2026年7月28日 08:00 美国

在小说阅读器读本章

去阅读

作者：Jordyn Alger

发布时间：2026年7月24日

无护栏AI面临的风险并不是未来才会出现的问题–它已经成为当前现实中的威胁。ThreatDown 的研究人员发现，为当下网络事件提供支持的 AI 工具正在变得越来越开放、越来越主流，同时也越来越难以监控。

该研究的第一个重要发现，无护栏的 AI 已经成为主流。一些人可能认为，恶意 AI 只存在于暗网；然而，该报告发现，在 Hugging Face 上公开发布的模型中，有 6,644 个模型带有“uncensored”，“heretic”和“unfiltered”等标签，这表明这些模型不会拒绝传统 AI 模型通常会拒绝的请求。在 30 天时间内，这些模型的下载次数超过 2,200 万次。

研究的第二个发现，网络犯罪分子并不是完全从零开始创建自己的 AI 模型；相反，他们正在租用模型。研究人员发现了一组恶意 AI 服务网络，这些服务利用合法的前沿模型和主流云基础设施，将这些模型进行打包、转售，或者通过封装（wrapper）的方式用于他们自己的目的。

下面，安全领导者们讨论了这一新的网络犯罪时代。

安全领导者观点：

1. Darktrace

Dr. Margaret Cunningham，Darktrace 的 Vice President of Security & AI Strategy

前沿模型正变得越来越强大，同时也越来越容易获取，而用于控制它们的机制仍然存在不足。在这样的环境下，防御者应该假设已经发生入侵，假设存在未经批准的访问，并假设任何足够有价值的能力最终都会被攻击者利用。

虽然关注这些新模型能力的相关声明非常重要，但也需要认识到，完整情况通常需要时间才能显现。有些能力可能会证明其影响比最初预期更大，而另一些能力可能不会达到早期预期效果。对于安全团队来说，挑战在于需要实时评估这些发展趋势，而通常是在行业尚未形成广泛共识之前，就需要判断其实际影响。

在一个快速变化的环境中，这一点尤其困难，因为 benchmark、能力评估以及模型比较，都正在随着行业高度关注和竞争不断发展。

对于模型护栏来说，同样适用这一逻辑。护栏可以减少机会主义滥用，但它们并不是完整的防御措施。擅长越狱的人员已经会使用上下文泛洪（context flooding）、隐喻、文学化表达以及不断迭代的方法来测试这些系统。

虽然大量关注集中在 AI 对攻击能力的影响上，但更令人担忧的是防御方面的压力。高级防御目前仍然主要依赖人工，而我们还没有在规模化程度上实现这种专业能力的自动化。

在 AI 加速漏洞发现之前，漏洞管理已经落后于实际需求。真正困难的不只是发现漏洞，而是判断漏洞是否会影响特定环境，判断它是否只是实验环境中的边缘案例，判断修复是否会破坏其他系统，以及如何在不中断业务的情况下完成修复。

现在已经不存在一个通用的“正常状态”可以用于防御。每个组织、设备、用户以及智能体的行为都不同，这意味着安全团队需要了解自身环境中的正常行为，并发现发生变化的地方。

随着 AI 加速漏洞发现和漏洞利用，行为检测、基于异常的检测、和自主遏制将变得越来越重要。防御者需要根据环境上下文确定优先级，在预防失败后快速控制威胁，并根据自身环境的实际情况建立防御，而不是依赖一个通用风险模型。

2. Cequence Security

Randolph Barr，Cequence Security 的 Chief Information Security Officer

目前大约三分之二的 AI 相关事件仍然源于传统安全弱点，而剩余三分之一则属于独特的“AI-native”风险。

这些风险包括模型和数据中毒、提示注入，以及能够自动串联 API 调用并在极少人工监督下执行操作的自主智能体。

这些新兴风险反映了一个现实：AI 系统具有动态性、自学习能力以及互联性，而这些特点是传统应用程序从未具备的。当这些特点与快速开发速度结合时，结果就是不断扩大的攻击面，其增长速度超过大多数安全项目的响应能力。

我们正在接近这样一个未来：AI 智能体的使用速度将超过安全措施的准备速度。过去一年出现的大量顾问式帮助揭示了这些缺口，并希望推动整个行业在这些工具深度嵌入企业生态系统之前，建立更加安全、透明的设计方式。

3. Acalvio

Ram Varadarajan，Acalvio 的 CEO

今天，我们正在见证网络威胁环境发生重大变化，其严重程度比我们过去面对的任何情况都更加严重和前所未有。多AI 智能体结构正在实时协同执行侦察、凭证收集和数据外泄活动。我们面对的是一种指数级的协同能力：数百个定制化 AI 智能体将同时运行于整个攻击面之上。被动响应式防御无法以机器速度运行，这要求网络安全体系转向主动式、AI驱动的战略。AI 对抗 AI，再结合进攻性的欺骗技术，将成为未来的一种设计方式，通过让攻击者陷入意外情况，迫使他们犯错并暴露自身。能够适应的组织将认识到，未来防御不再只是建立更高的围墙，而是让自己成为一个不可预测、不断变化的目标。

为了保持竞争优势并保护企业价值，公司必须从响应式防御转向主动、博弈论式防御，防御者不再只是被动等待攻击发生，而是预测攻击者行为，通过策略调整、欺骗、诱导和动态防御，让攻击者处于不利位置。这意味着部署 AI驱动的网络安全，特别是能够实时使用战略欺骗的 AI 智能体。未来需要让攻击者按照防御者的想法进行对抗，通过 AI 驱动的蜜罐消耗攻击者计算资源，并将攻击成本转移给攻击者。

4. Noma Security

Diana Kelley，Noma Security 的 Chief Information Security Officer

传统上，安全团队主要关注系统和数据保护。如今，我们正在帮助企业治理 AI 系统和智能体，这些系统能够代表业务提供建议、进行决策，并在某些情况下代表企业执行操作，同时帮助企业快速、安全地采用 AI。

AI 也意味着我们面对的是资源更加充足的攻击者。它降低了攻击规模化的成本，并提高了自动化攻击活动的质量。如果没有针对 AI 系统和智能体的强大控制平面，包括明确的访问和操作护栏，以及身份、访问控制、数据治理和运行时监控 ，那么 AI 将放大已经存在的各种弱点。

未来，AI 将嵌入企业业务的各个方面，每一位安全专业人员都需要了解 AI 和 智能体风险。这包括模型如何训练、数据暴露可能发生在哪里、输出如何被操控、智能体的影响半径，以及 AI 如何集成到业务流程中。在真实环境中，这些风险会出现在现有安全领域中，例如生产力工具、数据防泄漏、访问控制、应用安全、云安全和风险管理 。

5. Keeper Security

Shane Barney，Keeper Security 的 Chief Information Security Officer

高级 AI 模型现在已经能够以任何人工分析人员无法匹敌的速度和规模扫描系统、网络以及代码，从而识别漏洞，而这种能力具有双重影响。对于防御者而言，它是威胁检测和响应的能力增强工具；但对于攻击者而言，它加速了从侦察到利用的过程，其速度可能超过大多数安全团队发现和响应的能力。

这些 AI 系统能够轻易绕过传统“基于摩擦”防御机制，通过自动化复杂、多步骤攻击链，实现大规模攻击。这会导致大量软件漏洞，而人工维护人员无法及时完成分类处理。这造成了一个危险的运营瓶颈，使攻击者能够在修复措施部署之前，有更大的时间窗口利用已知漏洞。安全团队必须按照更短的时间周期运行，假设公开漏洞会在数小时内被武器化，而不是数周之后。防御者应该立即为互联网暴露系统实施自动化更新路径，将依赖组件的安全补丁作为立即处理事项，而不是积压任务，同时保持完善的日志和多因子认证 (MFA)，防止攻击成功后的横向移动。

那些长期推迟基础安全建设工作的企业，正在失去时间。攻击面本身并没有改变，但用于利用它的工具已经变得强大得多。未修复漏洞、过度访问权限以及特权庄户管理缺陷，正是 AI助力攻击寻找并武器化的目标条件。

https://www.securitymagazine.com/articles/102458-ai-without-guardrails-is-driving-a-new-era-of-cybercrime

（完）

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全行者老霍 SecurityMagazine SecurityMagazine《无护栏AI正在推动网络犯罪进入新时代》