欧盟AI法案来了，你连自己产品有几个AI都数不清？

原创

GTG-Hardy
GTG-Hardy

GTG网络安全实验室

2026年10月15日 10:00
广东

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

\"我们没用 AI。\"

这是厂商跟我们说得最多的一句话。然后我们解包固件，在文件系统里找到一个 models 目录，里面躺着三个模型文件。

其中一个，连他们的产品经理都没见过。

01

一个很常见的场景

假设你是一家做宠物喂食器的公司，产品出口欧洲。产品经理跟你拍胸脯说：\"我们没用什么 AI，就是个定时投喂，到点出粮，App 上设个时间。\"

然后你把固件解包，在文件系统里翻出一个 3MB 的 .tflite 文件。

再往下查，它用在一个叫\"宠物靠近检测\"的功能里——摄像头拍到宠物走近才出粮，避免误投。这个功能当初是方案商打包进来的，连产品经理自己都忘了。

这不是极端例子。在智能硬件行业，厂商对自己产品里有多少 AI，普遍是糊涂的。

而这在欧盟《人工智能法案》的语境下，不是一个学术问题。

02

为什么\"数不清\"是个问题

法案的逻辑是这样的：它不管你的整台设备，它管的是一个个 AI 系统。

每个 AI 系统有自己的用途，用途决定它落在哪一档——有的完全不受管，有的要做透明度标注，有的要满足一整套高风险义务，还有的直接被禁止。

所以\"数不清\"的后果是：你按 A 方案准备了一套材料，实际上产品里还藏着一个按 C 方案管理的系统，于是你整份合规工作都得推倒重来。

更麻烦的是，漏掉的那个往往是最要紧的。因为它藏得深，说明它当初就没进入过任何人的视野——自然也没进入过任何风险评估。

03

AI都藏在哪儿

我们做评估时，会按一张清单逐项排查。这里挑几条最常命中的：

一、固件里的模型文件。

最直接的一条。解包后搜 .tflite、.onnx、.pb、.pt 这类后缀，或者搜 model、models 目录。模型文件通常体积不小，很容易发现。

二、第三方 SDK。

这一条命中率极高。很多广告、统计、图像处理类的 SDK，内部打包了识别能力。厂商采购时只看到\"这是一个数据分析 SDK\"，不知道它还带了个模型。

三、芯片自带的算力。

如果你的主控芯片标称带 NPU，或者厂商宣传页上写着多少 TOPS 算力——那说明产品规划时就买了 AI 方案。芯片不会无缘无故配 NPU。

四、云端调用的外部服务。

抓一次包就清楚了。OCR、语音转写、图像审核、大模型对话——这些如果调的是第三方接口，每一个都是一个独立的 AI 系统，而且往往涉及数据出境。

五、App 里的推理代码。

有些识别跑在手机上而不是设备或云端。反编译后搜推理框架的依赖就能看出来。

六、方案商预置的整包固件。

如果固件是方案商提供的，里面的 AI 功能可能从来没跟你们交代过。这也是为什么评估时我们一定会追问供应链。

还有一条反方向的：把规则引擎当成 AI。

这个方向同样要排查。有些厂商听说要做 AI 合规，紧张地把所有带\"智能\"两个字的功能都报了上来，结果里面一半是 if-else 规则判断——温度高于多少就报警，这种不是 AI 系统。

报多了不是问题，报少了才是。但报多了会让评估成本虚高，也会让真正有风险的功能淹没在一堆噪音里。

04

一个容易搞混的分界

排查时会遇到一个高频问题：\"人脸检测\"和\"人脸识别\"是同一个东西吗？

不是，而且这一字之差，在合规上差得很远。

• 人脸检测只回答\"画面里有没有人\"，输出的是位置框。它不判断是谁，通常不触发高风险义务；
• 人脸识别回答\"这是谁\"，属于生物识别，在很多情形下直接落入高风险。

怎么区分？看模型的输出层。只输出坐标框的是检测；输出了特征向量（用来比对的数学表示）或者属性标签的，性质就变了。

很多厂商自己都没分清这两个。而在评估报告里，这是两个独立的条目，等级不同、义务不同、整改动作也不同。

05

为什么要自己先数一遍

我理解厂商的处境：法案条文厚，配套标准还在陆续出，先等等看。

但有一件事现在就能做，而且不花钱：把自己产品里的 AI 系统数清楚。

方法就是拉一张表，一个 AI 系统占一行：

就四列，不需要写得多漂亮。真正有价值的是填表的过程——每填一行，你都得回去确认一次\"这个东西到底在干什么、跑在哪里\"。

等评估做完，可以在右边再补一列\"落在哪一档\"，那份表就是后续所有工作的底稿。

这张表有三个用处：

一是知道自己的合规工作量有多大。三个 AI 系统和八个 AI 系统，是完全不同量级的项目。

二是发现被遗忘的功能。写这张表的过程，本身就是一次产品复盘。

三是这就是法案要求你做的基础工作。对高风险系统，法规明确要求你建立风险管理和技术文档体系；而这一切的起点，就是先知道自己有什么。

06

结尾

欧盟这套规则有个特点：它不要求你一次做对所有事，但它确实要求你知道自己在做什么。

一台设备里有几个 AI、分别做什么用——这个问题如果连厂商自己都答不上来，那么无论花多少钱做合规，地基都是虚的。

更多相关内容

尽在视频号“GTG网络安全实验室”

广测电磁：全球数字安全合规优选伙伴

别让合规只停留在“拿证”。

面对欧盟 CRA网络弹性法案、AI法案及 GDPR/CCPA/数据法案等严苛监管，凭借CNAS(L18872)+A2LA(6947.01)双资质及前360/深信服核心网络安全专家团队，为您提供真正的“实战级”防护。

🏆 为什么GTG能为您降本避险？

• 拒绝模板：不只给报告，我们提供定制化漏洞修复方案，确保产品真安全。
• 极致省心：代写核心文档，免除繁琐填表，让合规效率提升70%。
• 全域覆盖：从消费电子到汽车、工控、医疗，一站式解决全球隐私与数据安全难题。

您的全球合规通行证，从这里开始。

[ 👉 CRA / AI法案 / 隐私合规 ]