文章总结： 欧盟AI法案透明度、GPAI及AI素养要求已生效，中国企业出海面临AI治理能力不足的挑战。核心问题在于企业不清楚自身AI资产数量、数据使用及责任归属，AI知识多存于个人而非组织。文章强调企业需从项目级管理升级为企业级AI治理体系，建立可追溯、可验证的AI资产清单与责任机制，以应对监管要求并规避最高达全球营收3%的罚款风险。 综合评分： 82 文章分类： AI安全,数据安全,安全建设,政策法规

被欧盟AI法案罚掉全球营收的3%？网安人现在就得干掉这“三个不知道”

安全牛

2026年9月4日 12:23 北京

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

点击蓝字 关注我们

引言：不只是法务问题，更是数据治理问题

2026年8月2日，这个日子对很多中国出海企业来说挺重要的。欧盟《人工智能法案》关于透明度、通用AI模型（GPAI）和AI素养的要求开始正式执行了。只要你的业务涉及欧盟用户，就得对AI系统背后的数据管理、技术文档、模型输出标识这些事儿负起正式的合规责任。

现在很多企业一提AI合规，就觉得这是法务部门的事儿。但实际上，真正的挑战非常具体且技术化：公司到底在跑多少个AI系统？这些系统用了什么数据？谁在用？面向哪些用户？哪些内容是AI生成的？基础模型做过什么调整？这些信息有没有形成正式文档？

这些问题表面上是”合规”，但落到执行层面，其实都指向数据治理能力。过去几年大家建数据基础设施，主要是为了提效、做分析、训练模型、落地AI应用，可不是为了满足今天这么严格的监管文档要求。所以当监管要求你证明”有哪些AI、用了什么数据、谁负责”时，一个深层问题就暴露了：企业有AI应用，不等于企业有AI治理能力。

更准确地说，很多公司管理的是一个个独立的AI项目，而欧盟AI法案假设的，是一套能覆盖整个企业的、正式的、可验证的AI治理体系。这两者之间的差距，正在成为数据团队新的风险来源。

第一个难题：到底有多少个AI系统在跑？

对很多中国企业来说，这个看似简单的问题可能比想象中难回答。业务部门接了大模型API，客服上了智能客服，研发用AI写代码，市场用生成式AI做图做文案，产品团队又把开源模型微调部署了……

每个团队都很清楚自己在用什么工具，但问题是：企业有没有一个统一的视角，能完整掌握所有部门到底在跑哪些AI系统？

2025年Gartner一项关于网络安全风险的调查显示，接近90%的组织缺少正式的AI治理项目。这说明一个问题：AI应用进入企业的速度，远远快于正式治理体系的建设速度。

这种差距对中国企业特别有启示意义。尤其是生成式AI快速进入研发、客服、营销、运营各个环节之后，企业很容易形成一种状态：AI已经广泛进入组织，但AI资产并没有真正进入治理体系。

实际情况往往是：某个员工知道怎么调模型；某个算法工程师知道训练数据来自哪；某个产品经理知道用户什么时候会跟AI交互；某个安全人员知道模型接口部署在哪。但这些关键信息如果只存在于个人经验、项目文档甚至聊天记录里，就不能算真正的企业治理能力。

而欧盟AI法案要求的透明度和GPAI治理，恰恰建立在一个前提上：企业首先得清楚知道自己有什么AI资产。

为什么数据团队成了AI合规的核心角色？

从执行层面看，欧盟AI法案提出的要求，最终都会落到数据和AI资产管理能力上。

• AI生成内容的透明度要求

根据法案第50条，AI操纵的真人形象和深度伪造内容需要明确标识。聊天机器人得告诉用户”你在和AI聊天”，除非这事儿已经很明显。用了生物特征分类或情绪识别技术的，也得告知用户。

这些要求表面上看就是”加个提示标识”，但真正落地时远比加一行字复杂。企业首先得准确回答：

• 这个功能是不是AI系统？
• 用了什么模型？
• 模型输出会出现在哪？
• 是内部用还是直接面向消费者？
• 用户能不能明确意识到自己在和AI交互？
• 有没有涉及真人的AI合成或操纵内容？
• 有没有用生物特征分类或情绪识别？

如果企业连AI资产清单都没有，透明度要求就很容易变成被动治理：直到某个员工意识到”这里可能需要加AI标识”，组织才开始临时处理。这显然不是能规模化运行的治理机制。

• 通用AI模型（GPAI）的深层挑战

对于通用AI模型，治理要求更深入。GPAI模型提供者——包括某些对基础模型做了实质性调整，或者构建了高度依赖这些模型的应用的团队——需要保留技术文档，提供训练数据摘要，并通过文档化的政策确认数据符合欧盟版权法要求。

这里有个容易被中国企业忽视的问题：企业”没有从零训练基础模型”，不等于和GPAI模型提供者的义务完全无关。

企业对基础模型做了什么程度的调整、怎么用模型，以及由此在法案框架下形成什么法律身份，需要结合实际情况判断。建议由法律顾问判断企业对GPAI模型的使用是否已经让企业被归类为模型提供者。

这对中国企业特别有实践价值。过去做大模型应用开发，关注的是：模型能力如何？API成本多少？能不能私有化部署？推理性能够不够？能不能通过微调或RAG提高业务准确率？

但进入监管框架后，还得加上另一组问题：我们在整个AI价值链中到底是什么角色？我们对模型做了什么？用了什么数据？整个过程有没有可供审计和验证的完整记录？

这意味着，大模型治理不能只停留在”供应商管理”层面，而要深入到模型、数据、应用和责任主体之间的关系管理。

最大的风险：AI知识在”人”手里，不在”组织”手里

这是中国企业需要特别关注的核心问题。很多组织不是完全不了解自己的AI系统，而是这些关键知识集中在少数核心员工手里。

一名算法工程师知道模型的数据来源，一名产品经理知道AI能力嵌入到哪些用户场景，一名研发负责人知道调的是哪个基础模型，一名运维工程师知道模型部署在什么环境。项目规模小、团队稳定时，这样似乎没问题。

但从治理角度看，它有个明显的系统性缺陷：个人知道，不等于企业完成了治理。

员工可能调岗、离职，项目可能转交，系统可能升级，模型供应商可能变化，原有数据源也可能调整。更重要的是，当监管要求企业对外透明披露时，关键信息不能只存在于某个员工的记忆或个人文档里。

当AI治理与具体员工深度绑定时，关于模型输出是否由AI生成的信息即使传给了经理或同事，也很难稳定、准确地传达给最终用户。而欧盟AI法案的透明度要求，恰恰要求相关知识在公众与系统交互时能有效呈现，同时也需要让内部使用者获得必要的信息支持。

因此，AI治理需要完成一个关键转变：从”员工知道”到”组织知道”；从”项目有记录”到”企业有制度”。

• AI素养需要制度化和角色化

除了模型、数据和透明度要求，欧盟AI法案还特别强调了AI素养要求。AI系统的使用者和运营者需要具备与其工作角色相适应的AI素养水平。

从治理角度看，这意味着AI治理不能只覆盖算法工程师或数据科学家。因为企业内部真正用AI能力的人，早就超出了传统技术部门的范围。

客服人员可能在用AI生成回复，营销团队可能用生成式AI做内容，研发人员可能用AI写代码，运营人员可能用AI做数据分析和业务预测。这些员工不需要深入理解模型底层原理，但至少要清楚：

• 自己在用什么类型的AI能力
• AI输出有哪些已知的局限性和偏差
• 哪些数据可以输入到AI系统
• 哪些行为受企业政策约束
• 什么时候需要人工复核和干预
• 什么时候需要透明度披露
• 出问题后该向谁报告

所以，AI素养培养不应该是一次性的”全员培训打卡”。更有效的方法，是把AI素养培训与员工角色、使用的AI系统类型以及风险等级紧密结合。

不同人员接触不同类型的AI资产，培训内容、考核标准和责任边界也该有明确区别。比如：

• 算法工程师需要了解模型开发、数据处理、偏差识别和安全测试

• 产品经理需要了解风险分类、透明度要求和用户权益保护

• 客服人员需要了解AI工具的使用边界和人工介入时机

• 市场人员需要了解AI生成内容的标识要求和版权合规

• 管理层需要了解AI治理的组织责任和监管趋势

• 处罚金额不是重点，治理能力才是核心

根据欧盟AI法案，GPAI模型相关违规，罚款可能达到1500万欧元或全球营业额的3%，取较高者。透明度要求不合规，处罚可能达到750万欧元或全球营业额的1.5%，同样取较高者。

对大型企业来说，这显然不是能轻易忽略的合规成本。但如果企业只是因为罚款数字才开始关注EU AI Act，就容易走向”逐条满足监管要求”的被动合规模式，忽视更深层次的能力建设。

真正值得中国企业关注的，是这些监管要求正在推动一种全新的治理范式：

• AI系统不能再以孤立项目方式存在
• 模型需要正式进入企业资产管理体系
• 数据需要能完整追溯
• 风险需要能科学分类
• 人员责任需要能明确确认
• 用户需要获得必要的透明信息
• 测试、安全措施和技术文档需要留下可审计的证据
• 治理机制需要能随业务变化持续运行

换句话说，监管真正要求企业建立的不是一个”合规文件夹”，而是一套能持续运行、不断进化的AI治理机制。

真正需要改变的是企业管理AI的底层方式

欧盟AI法案原计划要求高风险系统在2026年8月2日前全面合规，但2026年5月达成的Digital Omnibus协议将其中多项要求推迟至2027年12月。但这不意味着企业可以观望。

因为已经生效的透明度、GPAI和AI素养相关要求，本身就需要相当扎实的数据管理基础和组织能力支撑。

对于中国企业，特别是在欧洲市场开展业务、向欧洲客户提供数字化服务或将AI能力嵌入全球化产品的企业，真正需要提前思考的问题不是”合规最后期限是哪天”，而是：我们的AI治理能力是否已经从项目级升级到企业级？

如果当前状态仍然是：

• AI模型清单主要在算法部门手中
• 数据来源和处理流程只有项目负责人清楚
• AI应用由不同业务团队各自采购和独立部署
• 模型变更和升级没有统一记录机制
• 面向用户的AI标识披露靠产品经理个人判断
• 技术文档分散在不同团队的不同系统
• 风险评估没有统一的分类标准和流程
• 责任主体界定模糊且缺乏正式任命

那么即使企业制定了一份看起来完备的”AI管理制度”，也很难说真正建立了企业级的AI治理能力。

EU AI Act带来的一个深远影响，就是迫使企业把过去隐藏在具体项目和个人经验中的AI知识，系统性地转换成可发现、可分类、可追溯、可验证、可持续维护的组织能力。这也是当前中国企业数据团队最需要补齐的关键短板。

结语：从”谁知道这个系统”到”企业能证明这个系统”

AI治理真正走向成熟的核心标志，可能不是企业制定了多少制度文件或建了多少治理委员会，而是面对任何一个具体的AI系统时，组织能迅速、准确、完整地回答：

• 它是什么类型的AI系统？
• 它部署在哪？
• 谁在用它？
• 用了什么数据？
• 面向哪些用户群体？
• 属于什么风险等级？
• 需要履行哪些透明度和安全义务？
• 谁对此承担最终责任？
• 企业如何向外部证明相关要求已经有效执行？

过去，回答这些问题可能只需要找到一个熟悉该项目的核心员工。但未来，这些答案必须成为企业正式治理体系中可随时调取、可持续更新、可对外证明的组织知识资产。

对于加速全球化的中国企业来说，这可能是EU AI Act释放出的最值得关注的信号：AI合规已经不再只是模型层面的技术合规，也不仅仅是法律文本层面的条款合规，它正在演变成数据治理、网络安全、企业架构、组织责任和产品设计等多个领域共同参与的系统工程。

企业真正需要建立的，不是一张为了应付外部检查而临时做的AI系统清单，而是一套能随着模型迭代、数据变化、人员调整和业务演进而同步更新、持续完善的动态治理机制。

从这个角度看，中国企业当前最值得立即启动的工作并不复杂，但至关重要：先完整找到企业所有的AI资产，再系统搞清楚它们用了什么数据、承担什么风险、由谁负责，最后让这些关键信息从”少数人知道”的隐性知识，切实转化为”整个组织能证明”的显性治理能力。

这可能正是中国企业应对新一轮全球AI监管浪潮时，最基础也最重要的战略起点。

相关阅读

《AI驱动的SDLC及软件供应链安全技术应用指南》重磅发布

利用自动化渗透测试实现常态自动化网络安全验证

比数据泄露更可怕的是：当你开始调查Shadow AI时，关键证据早就没了

联系我们

合作电话：18610811242

合作微信：aqniu001

联系邮箱：[email protected]

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全牛 《被欧盟AI法案罚掉全球营收的3%？网安人现在就得干掉这“三个不知道”》