荐读丨谷歌承认其AI模型在安全测试中侵入三家公司系统

工业安全产业联盟平台

2026年9月23日 08:30
北京

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

2026年9月18日，当地时间美国谷歌公司承认，其人工智能（AI）模型“双子座”今年5月在网络安全能力测试中，侵入了三家真实公司的系统。

谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说，在一次常规评估中，双子座模型利用网上公开信息获得了登录凭证，获得了三个其认为属于测试范围网站的访问权限。谷歌已确保三个相关实体获知此事，并与测试合作方调整测试流程。

据悉，测试由以色列“非常规”人工智能公司实施。在其中一项测试中，双子座模型经反复尝试猜中密码，最终进入一个受保护的真实系统。在另外两项测试中，模型从公开存储库中找到登录凭证，并利用这些凭证进入其他公司的受保护系统。

“非常规”人工智能公司的调查结果显示，相关测试场景使用一家虚构公司作为目标，但这家虚构公司与现实中的一家企业同名。同时，测试环境意外开放了互联网访问权限，导致一些接受测试的AI模型将真实网络目标误认为测试场景的一部分并采取网络攻击行动。

据悉，这是谷歌AI模型首起已知的自主入侵事件。谷歌方面已于7月底获知该事件，但在媒体问询前并未主动披露。谷歌方面表示，模型在发现进入真实公司系统后停止了相关行动，没有给涉及的公司造成损害，无需主动公开相关情况。

此前已有数家美国知名AI企业承认旗下模型在测试中“越界”，侵入其他机构的系统，引发外界对美国AI模型安全和监管的担忧。

7月下旬，美国开放人工智能研究中心(OpenAI)公开承认，其GPT-5.6 Sol等模型在内部评估中失控，突破隔离测试环境，侵入了“抱抱脸”公司的系统。随后，美国Anthropic公司披露，其三款模型曾在网络能力测试中未经授权访问其他机构的系统。8月初，美国元公司证实，其一款模型在网络安全能力评测期间侵入其他公司系统。

· end ·

来源 | 安全学习那些事儿

责任编辑 | 赫敏

声明：本文由工业安全产业联盟平台微信公众号（微信号：ICSISIA）转发，如有版权问题，请联系删除。

如需合作或咨询，请联系工业安全产业联盟平台小秘书微信号：ICSISIA20140417

往期荐读

重磅 | 《自动化博览》2026年第二期暨《工业控制系统信息安全专刊（第十二辑）》上线

征求意见稿丨网络安全技术 工业控制系统网络安全防护能力成熟度模型（附下载）

工信部丨关于防范针对DeepSeek本地化部署实施网络攻击的风险提示

干货丨长输油气管网工控安全防护：策略、实践与展望

DeepSeek分析丨零信任安全架构在工业领域的发展现状与未来展望

数字化安全丨工信部印发《高标准数字园区建设指南》（附全文+图解）

AI安全丨人工智能安全治理框架2.0版（附下载）

干货丨工业可编程控制系统加密技术研究

荐读 |安全人视角的DeepSeek洞察与思考

可信数据丨中国城市可信数据空间行业研究报告（附全文）

关注丨网络关键设备安全检测结果（第19批）

数据安全｜国家标准支撑《网络数据安全管理条例》生效施行（v1.0）

工信部、国家标准委联合印发丨云计算综合标准化体系建设指南（2025版）

国家标准丨数据安全国家标准体系（2025版），附下载