ChatGPT、Gemini、Copilot、Claude 等生成式 AI 平台在企业中的应用日益普遍。这些工具虽能提升各类任务的效率，却也为生成式 AI 的数据防泄漏（Data Loss Prevention，DLP）带来了新挑战：敏感信息可能通过聊天提示词、为 AI 驱动总结而上传的文件，或能绕过常见安全控制措施的浏览器插件外泄。而传统 DLP 产品往往无法识别这类事件。 Fidelis Network® 网络检测与响应（Network Detection and Response，NDR）等解决方案，通过基于网络的数据防泄漏技术，将 AI 活动纳入管控范围。这使得安全团队能够监控生成式 AI 的使用情况、执行相关政策，并将其作为整体数据防泄漏策略的一部分进行审计。

为何生成式 AI 需要 DLP 技术升级？

生成式 AI 的数据防泄漏，需要将关注点从终端和孤立渠道，转向对整个流量路径的可见性。与依赖扫描电子邮件或存储共享的早期工具不同，Fidelis 等 NDR 技术能在威胁于网络中传输时对其进行识别 —— 即便内容已加密，也能分析流量模式。 当前的核心关切不仅在于 “谁创建了数据”，更在于 “数据何时、以何种方式脱离企业管控”—— 无论是通过直接上传、对话查询，还是业务系统中集成的 AI 功能。

如何有效监控生成式 AI 的使用？

企业可通过基于网络检测的生成式 AI DLP 解决方案，采用以下三种互补方法实现监控：

1. 基于 URL 的指标与实时警报

管理员可针对特定生成式 AI 平台（如 ChatGPT）定义监控指标，这些规则可应用于多个服务，并根据相关部门或用户群体进行定制。监控范围可覆盖网页、电子邮件及其他传感器。

流程：

• 当用户访问生成式 AI 端点时，Fidelis NDR 会生成警报；
• 若触发 DLP 策略，该平台会记录完整的数据包捕获，以供后续分析；
• 网页和邮件传感器可自动执行操作，例如重定向用户流量或隔离可疑消息。

优势：

• 实时通知支持及时的安全响应；
• 可根据需要开展全面的取证分析；
• 能与事件响应手册、安全信息与事件管理（SIEM）或安全运营中心（SOC）工具集成。

注意事项：

• 由于 AI 端点和插件会不断变化，需持续更新规则；
• 若生成式 AI 使用率较高，需对警报进行优化，避免信息过载。

2. 仅元数据监控：适用于审计与低干扰环境

并非所有企业都需要对所有生成式 AI 活动发出即时警报。基于网络的数据防泄漏策略通常会将活动记录为元数据，生成可搜索的审计轨迹，同时将干扰降至最低。

 

• 抑制警报，保留所有相关的会话元数据；
• 会话会记录源 IP、目标 IP、协议、端口、设备及时间戳；
• 安全团队可按主机、用户组或时间段，回顾所有生成式 AI 交互的历史记录。

优势：

• 减少 SOC 团队的误报率和工作疲劳；
• 支持长期趋势分析以及审计或合规报告。

局限性：

• 若不定期审查，可能会遗漏重要事件；
• 仅当特定警报升级时，才能获取会话级取证数据和完整数据包捕获。

 

实际上，许多企业将此方法作为基础监控手段，仅对高风险部门或活动额外启用主动监控。

3. 检测并防范高风险文件上传

向生成式 AI 平台上传文件会带来更高风险，尤其是涉及个人身份信息（PII）、受保护的健康信息（PHI）或专有数据时。Fidelis NDR 可实时监控此类上传行为。有效的 AI 安全与数据保护，离不开对这类数据流动的密切监控。

流程：

• 系统识别文件正上传至生成式 AI 端点的行为；
• DLP 策略自动检查文件内容，识别敏感信息；
• 当规则匹配时，即使无用户登录，也会捕获会话的完整上下文；同时通过设备溯源明确责任归属。

优势：

• 检测并阻断未授权的数据外泄事件；
• 提供完整的事务上下文，支持事后审查。

注意事项：

• 仅能监控受管网络路径中可见的上传行为；
• 若缺乏用户身份验证，仅能实现资产或设备级别的溯源。

权衡选择：哪种方案最适合你？

实时 URL 警报

• 优点：支持快速干预和取证调查，可用于事件分类和自动化响应；
• 缺点：在高使用率环境中可能增加信息干扰和工作量；需随端点变化定期维护规则。

仅元数据模式

• 优点：运营成本低，适用于审计和事后审查；能让安全团队聚焦于真正的异常事件；
• 缺点：不适用于即时威胁应对，需事后开展调查。

文件上传监控

• 优点：针对性监控实际数据外泄事件，为合规和取证提供详细记录；
• 缺点：无登录情况下仅能实现资产级映射；无法监控网络外或未受管渠道的上传行为。

构建全面的 AI 数据保护体系

一套全面的生成式 AI DLP 解决方案需包含以下内容：

 

1. 维护生成式 AI 端点的实时列表，并定期更新监控规则；
2. 根据风险和业务需求，为不同场景指定监控模式（仅警报、仅元数据，或两者结合）；
3. 定义内容规则时，与合规和隐私负责人协作；
4. 将网络检测结果与 SOC 自动化系统及资产管理系统集成；
5. 向用户普及政策合规知识，告知其生成式 AI 使用行为处于监控范围。

 

企业应定期审查政策日志，并更新系统以应对新的生成式 AI 服务、插件及新兴的 AI 驱动型业务应用。

实施最佳实践

成功部署生成式 AI DLP 解决方案需遵循：

 

• 清晰的平台清单管理和定期的政策更新；
• 根据组织需求定制的基于风险的监控方法；
• 与现有 SOC 工作流程及合规框架的集成；
• 推广负责任 AI 使用的用户教育项目；
• 对不断发展的 AI 技术进行持续监控和调整。

核心要点

以 Fidelis NDR 为代表的现代基于网络的数据防泄漏解决方案，能帮助企业在采用生成式 AI 的同时，确保强有力的 AI 安全与数据保护。通过结合基于警报、元数据和文件上传的控制措施，企业可构建兼顾生产力与合规性的灵活监控环境：安全团队能掌握应对新型 AI 风险所需的背景信息和管控范围，而用户则可继续享受生成式 AI 技术带来的价值。