人工智能在网络安全方面的功效有限，但在网络犯罪方面却是无限的

将人工智能引入网络安全领域已经形成了恶性循环。网络专业人员现在利用人工智能来增强他们的工具并提高他们的检测和保护能力，但网络犯罪分子也在利用人工智能进行攻击。然后，安全团队使用更多的人工智能来应对人工智能驱动的威胁，而威胁行为者则增强其人工智能以跟上，如此循环不断。

人工智能安全解决方案

尽管人工智能潜力巨大，但它在网络安全中的应用却受到很大限制。人工智能安全解决方案存在信任问题，用于开发人工智能安全产品的数据模型似乎长期面临风险。此外，在实施过程中，人工智能常常与人类智能发生冲突。

人工智能的双刃性质使其成为一种复杂的工具，组织需要更深入地理解并更仔细地使用它。相比之下，威胁行为者正在以几乎零限制的方式利用人工智能。

缺乏信任

在网络安全领域采用人工智能驱动的解决方案的最大问题之一是建立信任。许多组织对安全公司的人工智能产品持怀疑态度。这是可以理解的，因为其中一些人工智能安全解决方案被过度宣传并且未能交付。许多宣传为人工智能增强的产品并没有达到预期。

这些产品最广为人知的好处之一是它们极大地简化了安全任务，甚至非安全人员也能够完成这些任务。这种说法往往令人失望，尤其是对于那些因网络安全人才稀缺而苦苦挣扎的组织而言。人工智能本应是解决网络安全人才短缺的解决方案之一，但承诺过多而兑现不足的公司无助于解决问题——事实上，他们正在破坏人工智能相关说法的可信度。

让工具和系统更加用户友好，即使对于不懂的用户来说也是如此，这是网络安全的主要愿望之一。不幸的是，鉴于威胁不断变化的性质以及削弱安全态势的各种因素（如内部攻击），这一目标很难实现。几乎所有人工智能系统仍然需要人类的指导，而人工智能无法推翻人类的决定。例如，AI辅助的SIEM可以准确指出异常情况供安全人员评估；然而，内部威胁行为者可以阻止系统发现的安全问题的正确处理，使得在这种情况下使用人工智能实际上是徒劳的。

尽管如此，一些网络安全软件供应商确实提供了充分利用人工智能优势的工具。例如，集成人工智能的扩展检测和响应（XDR）系统在检测和响应复杂攻击序列方面拥有良好的记录。通过利用机器学习来扩大安全运营规模并确保随着时间的推移更有效的检测和响应流程，XDR 提供了巨大的好处，有助于缓解对人工智能安全产品的怀疑。

数据模型和安全性的限制

另一个影响使用人工智能对抗人工智能辅助威胁有效性的担忧是，一些组织倾向于关注有限或不具代表性的数据。理想情况下，人工智能系统应该输入真实世界的数据来描述当地正在发生的事情以及组织遇到的具体情况。然而，这是一项艰巨的努力。从世界各地收集数据来代表所有可能的威胁和攻击场景的成本非常高，即使是最大的公司也会尽力避免这种情况。

在拥挤的市场中竞争的安全解决方案供应商也试图尽快推出他们的产品，提供他们可以提供的所有附加功能，但很少甚至不考虑数据安全。这使得他们的数据可能受到操纵或损坏。

好消息是，有许多经济高效的免费资源可以解决这些问题。组织可以求助于免费的威胁情报源和信誉良好的网络安全框架，例如MITRE ATT&CK。此外，为了反映特定组织特有的行为和活动，可以对人工智能进行用户或实体行为的训练。这使得系统能够超越一般威胁情报数据（例如妥协指标以及好坏文件特征），并查看特定于组织的详细信息。

在安全方面，有许多解决方案可以成功阻止数据泄露尝试，但仅靠这些工具还不够。同样重要的是制定适当的法规、标准和内部政策，以全面阻止旨在阻止人工智能正确识别和阻止威胁的数据攻击。政府正在进行的人工智能监管谈判以及 MITRE 拟议的人工智能安全监管框架都是朝着正确方向迈出的一步。

人类智慧的至高无上

人工智能可以规避人类决策的时代还需要几十年甚至几个世纪的时间。这通常是一件积极的事情，但也有其阴暗面。人类可以驳回人工智能的判断或决策是件好事，但这也意味着以人类为目标的威胁（例如社会工程攻击）仍然很强大。例如，人工智能安全系统可能会在检测到风险后自动编辑电子邮件或网页中的链接，但人类用户也可以忽略或禁用此机制。

简而言之，我们对人类智能的最终依赖正在阻碍人工智能技术对抗人工智能辅助网络攻击的能力。虽然威胁行为者不加区别地自动生成新恶意软件和传播攻击，但现有的人工智能安全解决方案旨在屈服于人类决策并防止完全自动化的操作，特别是考虑到人工智能的“黑匣子问题”。

目前，推动力并不是实现一个可以完全独立工作的人工智能网络安全系统。允许人类智能占上风而产生的漏洞可以通过网络安全教育来解决。组织可以定期举办网络安全培训，以确保员工使用安全最佳实践，并帮助他们更加擅长检测威胁和评估事件。

尊重人类智慧是正确且必要的，至少目前如此。尽管如此，重要的是要确保这不会成为网络犯罪分子可以利用的漏洞。

要点

建造和保护事物比摧毁它们更困难。由于各种因素的影响，使用人工智能来对抗网络威胁始终具有挑战性，包括建立信任的需要、使用数据进行机器学习训练时需要的谨慎以及人类决策的重要性。网络犯罪分子很容易忽视所有这些考虑因素，因此有时他们似乎占据了上风。

不过，这个问题并非没有解决办法。可以借助标准和法规以及安全提供商在兑现其声明方面的认真努力来建立信任。可以使用复杂的数据安全解决方案来保护数据模型。与此同时，我们对人类决策的持续依赖可以通过充足的网络安全教育和培训来解决。

恶性循环仍在继续，但我们可以找到希望，因为它也适用于相反的情况：随着人工智能威胁的不断发展，人工智能网络防御也将不断发展。