文章总结： 文章对网络安全行业盲目追捧AI的现象提出冷静反思，质疑当前大语言模型在安全运维中的实际效用，指出AI决策依赖充分准确的训练数据而现实环境复杂多变，强调AI自动执行与对抗能力面临信任与技术双重挑战，关注AI内核开发复杂性、人力替代风险及市场商业模式的可持续性问题，呼吁理性审视AI在高风险安全场景中的定位与应用边界。 综合评分： 72 文章分类： 漏洞分析,安全建设,安全运营,威胁情报,其他

面对AI，网络安全行业是否需要冷静……

原创

草根老烦 草根老烦

老烦的草根安全观

2026年2月9日 14:20 广东

新年前夕，各大网络安全公司纷纷将AI作为本公司的主打，不是基于AI的安全，而是将AI技术作为现在和未来产品的主流，通过AI来赋能或者主导安全产业和应用的发展。对于这个局面，众说纷纭，不做结论性的阐述，只是针对这种局面提出一些疑问和质疑与反思，无意去评价任何一家公司的战略和决策。

首先，AI应该如何理解。我们追求的基于AI的技术是建立在大语言模型基础之上还是建立在基于深度学习和神经网络技术的具有自我意识的人工智能基础之上？这是一个很有趣的问题，我们在一些客户中看到AI+安全运维中很有趣的一个场景，将日志、截图或者一个告警、员工的题问作为输入源，然后输出一个处置结果或分析结果及解决方案交由现场人员去处理；整个过程在很短的时间内（几十秒或者几分钟之间）快速完成，对于客户而言，感觉很神奇。但是作为曾经的运维工程师而言，我不会直接拿这个解决方案去做实施。为什么？我不知道在AI的训练过程中，是否涵盖了组织所有设备的厂商、型号、原始配置文件、网络拓扑以及业务服务器的ACL。这还要考虑这些训练数据的足够准确（及时准确也不能排除实际软件开发活动中，开发商基于有意或无意中产生的缺陷或“维护钩子”），我们可以理解AI所给出的是丰满的理想，但实际执行的时候我们面对的是骨感的现实。可能有些人会说，我们可以把所有的信息吐给AI，问题是，我们没有“所有”的信息；是否真正的基于深度学习的AI就能做到这些呢？同样，还是一个规范的问题。我们喂给AI的标准答案，但是做试卷的却是按自己的意愿答题，因为，AI力求100分，考生力求60分，这40分的差距为人类和AI之间构建了一个难以逾越的鸿沟，当然，如果人类能够做到90分，AI也就失去的价值。因为安全的本质并不是不可或缺，只是为人类的缺陷提供一个补救措施，一旦人类的缺陷降低到可接受的程度，安全本身也就形同虚设了，正如我们所说，当一个社会夜不闭户，路不拾遗的时候，警察这个职业也就失去了其原本的价值。

其次，AI是不是真能解决问题。最理想的AI产品应该是基于AI的决策和行动。前者的本质是不是可以去回到大数据时代呢？决策需要数据，需要各种各样的数据，那么进步到AI时代，他同样要依赖数据。从数据的采集、传输、存储能力而言，可能大数据更优于AI，但是从深度分析和学习能力而言，AI是建立在大数据的技术基础之上，通过自己独有的神经网络将相关数据进行复杂化的梳理、分析、自我学习、自我决策等一系列过程的结果输出，这是大数据很难实现（不代表不可以）。在这个过程下，由AI自动执行下一步的行动和配置的变更，甚至产生AI对抗人类的能力；虽然现在都在渲染AI对抗AI，但是如果AI连与人的对抗都不能形成，AI对抗AI的勇气只能去和梁静茹去沟通。那么问题来了，不知道现在有哪些厂商能够建立AI对抗人类的产品体系，又有哪些用户敢于放手让AI去主动对抗。这是一种挑战，挑战自己对AI的信任、挑战对技术的信任、挑战对业务的信任。只有AI能够主动对抗人类之后，我们才有可能客观的地讨论AI对抗AI的问题。在这个过程中，我们需要解决AI自身的许多问题，比如：训练数据是否充分，学习能力的快速迭代，AI幻觉的对抗以及针对AI自身安全能力的保障；除此之外，我们还需要套针对AI的维护问题，比如：AI的训练时效性、AI训练数据的有效性和安全性、AI训练师的专业性、AI模型的可靠性、AI算法的科学性等一系列问题；在使用AI过程中，我们同样要考虑当设备数量和种类不断增加，日志量随着业务的增长产生的快速膨胀等问题产生的针对AI的存储、算力以及部署等事项如何应对。一个基本原则就是，AI与其他产品一样，虽然可以即插即用，但不代表你就能够正确的使用产品一般。

第三，AI可完全信任吗？现在对AI的信任更多的停留在专家的言论和技术的渲染之下。本身AI内核技术的不透明和AI模型的透明化使得我们始终把利用开源模型搭建AI认为就是AI的核心技术的体现。这只是让我们把AI当成是一个产品的应用具象化的体现，而AI内核的开发是一个纷繁复杂的过程和诸多技术聚合的一个体现，AI内核开发涉及数学、编程、框架、硬件的综合应用，同时面临着计算效率、内存管理、软硬协同、分布式训练等诸多挑战。作为将AI作为产品的主体而不是一个应用模块的厂商而言，你做好准备了吗？

第四，AI带来的人力冲击。AI被大规模的渲染所带来的一大危机是，AI取代人之后所形成人该何去何从；当人产生不安全的体验或者自己的利益受到影响后，会不会刻意在离职或不被重视的场景下产生新的内部威胁问题呢？比如：构造虚假的数据作为训练数据投喂给AI、对AI通信进行干扰，制造延时和数据不完整、在AI运行过程中破坏其相关的物理设备、向不可信的外部人员提供AI的算法和模型缺陷等问题。人是最不可捉摸的，当人的利益被直接或间接的损害时，AI所面临的专业知识不仅是网络安全，还需要对抗人性所带来的身体伤害。而未来AI技术在安全领域的广泛应用，第一批被打掉的有可能是持有组织大量漏洞信息甚至是0day的一线中低水平的安全渗透工程师和掌握组织大量特权账号的一线运维工程师，这些人流放到社会之后，成为第一批AI的敌人。

第五，AI带来的市场价值的问题。前段时间看到利用AI技术安全运维几千块钱中标优质客户的项目，在这种场景下，商业化的运作应该是，在整个组织范围内，要想最大限度发挥AI的效能，所有的产品都需要使用这家公司或这家公司生态的产品，也就是说，虽然运维服务没有产生真实的市场效果，但间接利用技术形成一个标准，为远期市场提供途径。那么这种运营模式是不是真的适合中国的国情和商业结构呢？我们有时候很理想的去构建自己心中的王国，但是要真正实现这个王国却需要付出很多的代价，而有些代价不是简单的通过金钱和技术来完成的。在这种模式下，没有成熟的产业支撑，最终AI可能带来更多的幻觉，当然也可能会有Inter的模式（一个很有趣的模式，当我们用Inter技术组成的产品去扫描任何Inter产品时，它会基于代码签名自动回避检测，也就是我不检测自己的产品）。AI欺骗的本质是人的欲望所赋予的，因此，在整个AI的开发过程，AI同样能够继承人性的贪婪和无度。

我不排斥包括AI技术在内的一切新生技术，但是，是否需要冷静的审视AI的应用和高风险环境中的AI的应用呢？我们是将AI作为独立的产品还是某个或某些产品的支撑来应用呢？其本质并没有多大的区别，但是在真正的应用中，我们会发现其所带来的影响存在天壤之别。从深蓝到专家系统，再到阿尔法狗，人工智能技术经历了很多；大语言模型激活了整个AI的社会型应用，使得全社会对AI产生了一种狂热的崇拜。但我们是不是真的需要面对AI冷静一下呢？

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：老烦的草根安全观 草根老烦 草根老烦《面对AI，网络安全行业是否需要冷静……》