文章总结： 文档警示大模型服务存在严重信息泄露风险，指出AI正从辅助工具变为可执行多步骤任务的Agent，同时披露某中转服务商泄露约6TB数据含敏感密钥。建议审慎使用外部大模型，尤其涉及内部代码、客户数据等敏感信息时勿交给不可控平台，需明确数据使用边界。 综合评分： 72 文章分类： 数据泄露,安全意识,安全建设

信息泄露严重，审慎使用大模型服务

原创

mapxiaotu mapxiaotu

空天感知

2026年9月12日 14:46 美国

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

这两天，AI圈有两件事情，在网络掀起轩然大波，非常值得警惕。

一边，美国AI公司Anthropic发布最新报告，披露Claude被用于网络攻击、监控、影响行动等众多领域。

更值得关注的是，报告显示，AI正在从过去的“辅助工具”变成能够参与侦察、编程、分析甚至执行多步骤任务的Agent。

另一边，安全研究人员披露，一家大模型中转服务商被发现存在约6TB的模型调用数据，其中据称包含SSH密钥、VPN配置、云服务密钥、GitLab Token等敏感信息。

可以看到有zhijianglab ustc等多个头部研究单位

过去我们使用大模型，往往只是让它写文章、写代码、查资料。现在随着Agent的发展，AI开始真正进入研发和生产环境。为了让AI完成工作，我们会主动给它项目代码、配置文件、技术文档、数据库信息，甚至服务器权限。

AI越有用，我们愿意交给它的数据就越多。

而所谓“大模型中转站”，又增加了一层风险。

很多人以为自己是在调用Claude、GPT等国外模型，实际上数据首先经过的是第三方中转服务。你的Prompt、代码、文件和模型回复，都可能经过它的服务器。

那么问题来了：

这些数据有没有被保存？保存多久？谁能够看到？有没有脱敏？会不会被用于训练？

如果这些问题都回答不了，那么所谓“只是调用一个API”，实际上并没有想象中那么简单。

尤其值得注意的是，Anthropic作为一个大厂，毫无底线的将所有后台用户的对话隐私发布出来，证明其可以随意查看用户对话、没有任何审查。

我们也很难说服自己，老外公司不会把数据提供给相关部门。

所以，审慎地使用大模型服务，尤其是国外大模型。

我们的读者朋友们，大多数会多少从事一些敏感业务，更要注意信息泄露。

一旦数据离开自己的控制范围，你很难再完全知道它经历了什么。

所以，我并不认为问题简单地在于“国外模型不能用”。

真正应该问的是：

这个数据，我有没有资格交给外部平台？这个平台，我有没有能力控制？

公开资料当然可以放心使用。

但涉及内部代码、客户数据、核心技术、工程参数、未公开科研成果以及各类敏感信息，就应该保持足够谨慎。尤其对于来源不明的低价中转站，更不要因为“便宜”“方便”就把内部数据全部交出去。

AI毫无疑问会成为未来研发和生产的重要工具。

但越是强大的工具，越需要明确使用边界。

模型可以越来越强，数据边界却不能越来越弱。

AI可以大胆用，但敏感数据，真的不要随便给。

联系作者微信：mapxiaotu

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：空天感知 mapxiaotu mapxiaotu《信息泄露严重，审慎使用大模型服务》