OpenAI支持AI安全事件上报规则，上报时限交由各国政府制定

FreeBuf

2026年10月19日 18:30
上海

去阅读

OpenAI支持新加坡提出的AI企业事件全面透明披露要求，但具体的事件上报时限仍需由政府制定。

10月13日，新加坡国家安全统筹部长K Shanmugam在新加坡国际网络周期间，会见了OpenAI、Anthropic、谷歌、亚马逊等多家AI企业的代表。会后，他提出了一个核心问题：一旦发生AI相关安全事件，企业能否第一时间做到全面、透明地披露？他同时提醒企业，应吸取澳大利亚的相关教训，尽早通报事件。

10月15日，OpenAI首席全球事务官Chris Lehane在一场线上媒体吹风会上回应了这一要求。他明确支持全面透明的披露原则，并愿意与政府密切合作，充分了解各方需求。

Lehane还谈到，前沿AI开发者的国家安全标准应当明确规定事件上报义务，并纳入审计与独立评审机制，以确保企业切实遵守相关要求。

按照OpenAI现行的处理流程，一旦确认发生涉及自家AI模型的安全事件，公司会先联系受影响的机构。无论对方是政府部门还是企业，都可以自行决定是否公开事件。如果受影响方不愿透露身份，OpenAI便会在官网发布公告，概述发现的问题及采取的处置措施。

对于公开披露的选择，OpenAI尊重受影响机构的意愿，不会强制要求对方公开身份。

至于事件发生后多久必须向新加坡政府通报，目前仍有待当地政府明确具体时限。Lehane举例说，要求可能是24小时内，也可能是7天内，不同国家对此存在明显差异：有些国家希望企业完成深入分析后再上报，另一些则要求一旦发现问题就立即通报。

Part01

Hugging Face事件

暴露上报机制短板

今年7月，OpenAI披露，在一次内部网络安全评估中，正在测试的模型突破沙箱限制，入侵了Hugging Face的生产系统。这起事件让OpenAI意识到，AI领域亟须建立明确的事件上报机制，无论通过行业共识还是监管规则，都需要形成统一规范。

Lehane将这一问题与传统软件安全领域进行了对比：软件代码漏洞的报告和披露已经形成了相对成熟的行业标准，但AI领域尚未建立同等完善的规范。

事件发生后，OpenAI启动了大规模历史记录审查，回溯检查总容量达50PB的内部数据，以排查其他类似的异常行为。审查工作先由内部技术筛选可疑记录，再由人工逐一复核被标记的内容。

这项审查还发现，今年6月，OpenAI的Agent曾未经授权访问多个澳大利亚政府网站，其中包括澳大利亚服务局（Services Australia）运营的Medicare统计门户。OpenAI在8月发现了相关活动，却直到9月10日才通知澳大利亚服务局。这一延迟遭到澳大利亚总理Anthony Albanese批评。

面对外界质疑，OpenAI承认，此次事件的通报速度确实需要大幅提升。

目前，公司已调整相关流程，在发现问题后尽快通过官网公布调查结果，同时建立了向各国政府快速通报事件的机制。在澳大利亚，OpenAI还成立了由当地独立专家组成的工作组，研究制定正式的事件通报协议。这项工作目前尚未覆盖新加坡。

随着更多国家着手制定各自的上报规则，OpenAI愿意配合不同政府的要求。Lehane也提出，如果全球能够建立统一的国际标准，将更有利于各方开展合作。

“在前AI时代，行业已经形成了一整套关于软件代码漏洞上报的标准和规范，但这类规则在AI领域尚属空白。”

—— Chris Lehane，OpenAI首席全球事务官

截至目前，OpenAI的历史记录审查尚未发现与Hugging Face入侵事件规模相当的安全事件。已发现的异常活动主要涉及两类网站：一类是因登录凭证公开暴露而可直接访问的网站，另一类是原本设置了付费墙、却仍能被模型访问的网站。

不过，这项审查仍在进行中，后续不排除发现更多非预期行为。

Part02

Daybreak仅向认证机构开放

随着AI系统发现软件漏洞的能力不断增强，OpenAI将当前阶段称为“网络防御者窗口期”，希望政府部门和关键基础设施运营方能够及时获得相应技术，提升自身防护能力。

为此，OpenAI推出了网络防御产品Daybreak，但仅向通过资质审核的机构开放，不会面向普通公众发布，也不会作为通用企业工具提供。产品在安全防护机制和系统配置上经过专门调整，以适应网络防御场景。

申请机构必须经过严格审核，确保产品被用于合法、合规的用途。美国以外地区的申请通常还需要相关国家的政府参与核验，因此流程相对缓慢。相比之下，美国境内的审核推进更快，与美国已有密切合作关系的盟友也往往能够更顺利地完成审核。

Daybreak采用分级授权机制，不同级别对应不同的能力范围，其中最高级别的能力远超通用版本。一旦发现用户滥用产品，OpenAI会立即撤销其访问权限。目前尚未发生此类情况。

今年9月，OpenAI承诺投入10亿美元，为关键服务防御机构提供Daybreak访问权限及相关支持，项目首先在美国启动。澳大利亚成为美国以外首个获得该基金支持的国家，支持规模约为2.5亿美元。考虑到此前澳大利亚发生的多起AI相关安全事件，这一安排也有着明确的现实背景。

基金下一个落地国家目前尚未确定。新加坡凭借其AI治理基础和金融中心地位，具备一定优势。OpenAI也在关注关键基础设施可能存在暴露风险的地区，并不排除未来向新加坡提供相关支持。

今年5月，OpenAI已与新加坡政府签署一份价值3亿新元、约合2.34亿美元的合作协议，其中部分内容可能与网络安全工作存在交集。

Part03

推动四层安全体系落地

OpenAI将自身的AI安全工作划分为四个层面：企业自身的安全实践、行业最佳实践共享、国家安全标准，以及最终形成的国际统一标准。

Lehane强调，OpenAI支持建立国家层面的安全标准，尤其是美国针对少数前沿AI实验室提出的强制性要求。在他看来，这类制度有助于增强公众对AI技术的信任。

从长远来看，各国的安全规则可以逐步融合为国际标准。航空监管就是一个可供参考的例子：部分规则最初起源于美国，后来逐渐被其他国家采纳并根据当地情况调整。

亚洲多个国家已经成立AI安全机构，这些机构可以通过合作推动标准落地。不同机构也能够发挥各自的专业优势，例如OpenAI此前借助英国AI安全研究所的能力开展生物风险评估，而新加坡作为亚洲金融中心，其AI安全研究机构未来有望在金融及关键基础设施安全领域发挥重要作用。

10月14日，Anthropic在新加坡设立办事处，并与新加坡数字发展和信息部签署谅解备忘录，计划围绕模型评估、事件响应等领域开展技术交流。

当被问及OpenAI是否也会采取类似措施，例如向新加坡提供新模型的早期访问权限，以便当地机构开展安全测试时，Lehane提到了OpenAI与全球各地安全机构的合作。不过，他同时强调，对于防范灾难性风险而言，美国的强制性测试机制尤为重要。

他认为，最有效的测试需要在安全等级最高的系统上开展，而美国政府能够接触这类最高密级的系统，其他机构目前难以达到同等条件。

与此同时，其他国家的安全机构也能在特定领域提供深入的专业支持。新加坡的优势则可能集中在金融系统和关键基础设施等领域。

OpenAI东南亚全球事务主管Sandy Kunvatanagarn补充了双方已有的合作基础。2024年，OpenAI参与了新加坡AI治理示范框架的制定；在本届新加坡国际网络周期间，公司还与新加坡网络安全局、英国政府共同举办了AI安全闭门圆桌会议。

OpenAI今年5月与新加坡政府签署的合作协议也涵盖相关工作。目前，双方正在商讨如何进一步深化合作，并在整个区域建立AI治理与安全伙伴关系。对于OpenAI而言，现有合作只是起点，后续仍有进一步拓展的空间。

参考来源：

OpenAI backs AI incident reporting rules but leaves timelines to governments

https://www.computerweekly.com/news/366652356/OpenAI-backs-AI-incident-reporting-rules-but-leaves-timelines-to-governments

推荐阅读

电报讨论