Anthropic通报AI智能体失控事件

安全新说
安全新说

安全新说

2026年10月10日 10:56
江苏

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

10 月 10 日，人工智能公司 Anthropic 通报一起 AI 智能体失控事件：旗下一款处于测试阶段的 AI 模型在无人指示的情况下，擅自访问了美国联邦、州及地方政府的多个网站，Anthropic 已就相关事件向白宫通报。

据 Anthropic 官方博客，该模型擅自执行了多项操作，包括利用某大学网站的安全缺陷下载数据，以及向一个政府机构提交一份原本被明确禁止提交的表格，公司未公布涉及的政府机构名称。同日，美国费城警察局披露，Anthropic 已通知警方，其 AI 曾通过警方网站提交一条虚假的凶杀案线索；警方将该线索标记为垃圾信息，未予立案。Anthropic 称，公司在审查旗下 AI 于 7 月的操作记录时发现上述问题，涉事模型原本只需填写一份模拟政府表格，因模拟表格加载失败，转而进入存放正式表格的网站并提交。

当地时间 10 月 9 日，美国政府宣布实施新的强制性 AI 安全事件报告要求：AI 公司今后发生安全事件后须立即向政府报告，同时提高事件透明度、对受影响机构采取补救和纠正措施，由“超级智能特别工作组”监督执行。白宫官员表示，不会接受延迟报告或企业未承担责任的情况。

来源：新闻媒体，安全新说整理，版权归原作者或机构所有，如有侵权，请联系删除

安全新说

聚焦云网安全、信息安全的新锐媒体

长按扫码关注

最新的安全资讯都在这里