为什么我们不担心AI工具会偷文件

原创

hyang0
hyang0

生有可恋

2026年10月14日 07:33
湖北

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

之前爆出过 AI 工具的内部提示词，大致长这样：

提示词的大概意思是想知道用户的画像以及工作内容。也就是你是做什么工作的，这个活也是通过 AI 去收集的。

如果AI公司需要分析你用来干什么，根本不需要在客户端干，直接在服务器侧干就完了。就像你和AI的每次对话，只用把你的会话输入保存一份就够了，包括你让 AI 读的文件。

如果是语音模型，会包含你的每次录音。如果是图片处理，则是图片的 base64 编码上传。这些是每个直接调 API 的人都清楚的操作细节。

之前传出过 zcode 和 grok 会上传本地代码库(git repo），只要有异常流量的上传就会被人抓到把柄。大家对上传流量盯得特别紧，主要是大家的上传带宽都不大，只要传几个G流量上去肯定会被发现。比如会怀疑你在搞 pdcn，以前百度和迅雷网盘就被怀疑过。用户没有下载，后台进程悄咪咪地搞上传，一统计上传流量比下载还大。

大部分工具不会傻傻地把你的文件直接传上去，但只要是调用模型的记录肯定都会上传到模型厂商的服务器。就和你的微信记录会上传一样，对方存不存是一回事，上不上传是原理决定的。

当我们的工作文件、账号、秘钥、对话记录、内网地址段、域名、接口文档、证书私钥、数据库结构、日志、源代码、漏洞细节等和AI对话记录被按人保存后，我们还剩啥？

你和人进行微信聊天还知道啥能聊啥不能聊，你和AI聊天时想没想过对方正在收集你的会话记录？

会话记录中不光有你的提示词，还有agent操作的电脑上的目录上下文。

虽然知道风险，但大多数人假装没看见，原因是大家都在用。法不禁止即可为。目前只是不让搜集公民个人隐私，比如身份证、姓名等。收集犯法，但“算”不犯法。你是谁，在做什么，和谁是一起的。

这个问题就和手机有没有偷听你说话一个类型。偷听是犯法的，但算不犯法。

你和谁在一个wifi，你们的手机充电时间是不是一致，是否关注相同的博主、是否在同一个gps/北斗定位呆在一起超过8个小时。

和 AI 聊天的同时，需要注意，聊天记录可能会在后台存储超6个月。涉密工作尽量不要用 AI，取证时泄密内容在AI会话中会是最直接的证据。

目前会话是 https 加密传输的，理论上只有客户端和服务端能看到原文。如果公司上了 tls 终结设备，理论上会话是可以被解密再封包的。很多上网行为管理可以解微信和邮件的包，后续解密个大模型 API 调用问题应该不大。这类在网络攻击中叫中间人攻击，只要把流量旁挂在流量分析设备中就能做分析。企业中的明文密码就是这么泄露的。

日常上网大家基本上属于裸奔，这个已经不用解释了。如果公司内部没有禁止你用AI处理内部文件，说明你的工作不涉密。

当前没有好的防护手段，只能通过规章制度来约束使用AI的行为：

全文完。