Google Gemini 安全过滤器绕过方法通过下载链接泄露被屏蔽的 AI 图像
原创
ZM
ZM
暗镜
2026年11月16日 06:00
北京
去阅读
Google Gemini 通过下载链接泄露了其安全过滤器拒绝的图片,这揭示了基础设施的弱点,而不是传统的越狱模式。Fog Security 研究员 Jason Kao 于 2026 年 11 月 5 日公布了这一发现,他描述了 Gemini 如何在拒绝镜像请求的同时仍然提供被阻止的镜像文件。10 月 22 日的重新测试发现行为有所改变,12 次新的尝试均未能重现该问题。
这项研究揭示了对话安全决策与内容交付之间的脱节。与针对模型响应的AI越狱不同,这项技术无需说服Gemini放弃其限制。拒绝机制依然有效,但其背后的应用程序未能始终如一地阻止对被拒绝输出的访问。根据Fog Security披露的信息, Gemini的Web应用程序通过独立的在线查看和下载路径公开生成的图像。显示的图像和可下载的文件本应代表同一个已获批准的工件。然而,有时下载的文件会返回之前触发安全拒绝的图像。研究人员首先提交了一份图像请求,该请求触发了双子座望远镜的安全机制,然后他们又请求了另一张允许的图像。尽管对话界面显示的是允许的结果,但其下载控制功能仍然可以获取之前被拒绝的图像。返回的文件质量参差不齐,从模糊或不完整的图像到完全清晰的图像都有,并且在多天和多次实验中都成功复现了这些图像。
两种交付路径均使用 lh3.googleusercontent.com,且绑定到已登录用户。内嵌图片 URL 以 =s1024-rj 结尾,而下载 URL 则以 =s0-dI 结尾。这些链接在隐身会话中无法解析,研究人员也未报告任何跨用户数据泄露或权限提升的情况。
Fog Security 提出了关于图像生成、安全中断和数据清理方面潜在状态管理缺陷的担忧。目前这只是一个假设,尚未被证实为根本原因。观察到的问题是,下载机制生成的数据与可见安全决策所控制的图像存在差异。Fog Security 于 2026 年 6 月 25 日通过 Google 漏洞奖励计划报告了该问题。最初,Google 认为该报告超出其关注范围。然而,在研究人员澄清该问题涉及基础设施而非模型行为后,Google 恢复了分析。该报告于 7 月送达产品团队,但 Google 在 9 月决定不将其作为滥用漏洞进行跟踪。
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论