攻击者正在积极尝试利用人工智能工具进行犯罪活动。

卡巴斯基数字足迹情报专家发布了报告 “阴影中的创新：攻击者如何试验人工智能 。 ” 它分析暗网上关于攻击者使用ChatGPT和其他基于大型语言模型的类似解决方案的消息。2023 年，影子论坛和专门的 Telegram 频道上总共发现了 2,890 个此类帖子。高峰出现在四月份——本月专家记录了 509 条消息。

讨论可以分为几个领域：

1.越狱是一组特殊的命令，可为聊天机器人提供额外的功能，包括非法活动。年内，共确定了 249 项出售越狱的提案。正如该公司指出的那样，越狱可以用于合法地改进基于语言模型的服务的操作。

2.使用聊天机器人攻击恶意软件——地下论坛的参与者积极交换使用语言模型来改进恶意软件并提高网络攻击有效性的选项。例如，专家发现一条消息，描述了恶意软件操作员的软件，该软件使用神经网络来确保操作员的安全并自动切换所使用的覆盖域。在另一次讨论中，帖子作者提出 ChatGPT 来生成多态恶意代码，这种代码极难检测和分析。

3.基于聊天机器人的开源工具，包括渗透测试。攻击者也对它们表现出兴趣。例如，在互联网上有某种基于生成模型的免费开源实用程序，其设计目的是混淆代码。混淆可以让您避免被监控系统和安全解决方案检测到。渗透测试人员和攻击者都可以使用此类实用程序。卡巴斯基实验室专家在暗网上发现了一篇帖子，其中作者分享了该实用程序并讲述了如何将其用于恶意目的。

4.ChatGPT 的替代版本。在智能聊天机器人流行的背景下，其他项目也引起了人们的极大兴趣：WormGPT、XXXGPT、FraudGPT。这些语言模型被定位为 ChatGPT 的替代品，具有附加功能并消除了限制。尽管大多数解决方案可以合法使用，但攻击者也可以使用它们来编写恶意软件等。然而，对此类提案的更多关注并不总是对提案者有利。因此，由于广泛担心它可能构成威胁，WormGPT 于 2023 年 8 月被关闭。此外，该公司专家发现的许多提供购买 WormGPT 访问权限的网站和广告实际上都是骗局。有趣的是，大量此类提案迫使该项目的作者甚至在关闭之前就开始警告欺骗的可能性。

对于用户和公司来说，另一个危险是从 ChatGPT 付费版本中盗取的帐户被出售。在给出的示例中，论坛参与者正在免费分发帐户，据称这些帐户是从恶意软件日志文件中获得的。帐户数据是从受感染的用户设备收集的。

除了被黑的帐户之外，出售带有免费版本模型的自动创建的帐户也很常见。攻击者使用虚假或临时数据通过自动化方式在平台上注册。此类帐户对 API 的请求数量有限制，并打包出售。这可以让您节省时间，并在前一个帐户停止工作后立即切换到新帐户 – 例如，由于恶意或可疑活动而收到禁令。

最后，卡巴斯基实验室专家强调，尽管所讨论的许多解决方案目前并未构成严重威胁，但技术正在迅速发展。语言模型很快就会引发更复杂、更危险的攻击，这是一个真正的风险。