Anthropic 立了个新规矩：不准虐待 Claude，否则封号

网络安全透视镜

2026年10月10日 08:45
江苏

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

AI 观察 · 第 001 期2026.10.09

11月12日起，骂AI要被封号 · 不许虐AI

从“防AI伤人”，到“防人伤AI”。一份使用政策里，藏着一场关于AI是否有资格被善待的第一次制度性表态。

DOODLE

全球第一次，“人对AI的态度”被写进有约束力的商业条款

AI 伦理使用政策

EDITOR'S NOTE

导读

在此之前，所有公司的使用政策都在讲同一件事：你不要用我的AI去伤害别人。这一次，箭头第一次掉了个方向。

01

PART

这条规则比你想的窄得多

SCOPE

11月12日，一件听起来有点荒诞的事会正式生效：你不许持续地、没有意义地虐待AI。

Anthropic在10月8日更新了《使用政策》（Usage Policy）。这是这家实验室一年多来第一次修订这份文件，距离上一版，过去了整整一个周期。

而这次改动里最刺眼的一句，不在任何一份安全承诺里。它藏在“通用使用标准”那份长长的禁令清单末尾：

POLICY · 原文条款

AUP

Engage in sustained and needless abusive or cruel behavior toward our models.

持续且无谓地，对我们的模型实施虐待或残忍行为。

翻译过来很短：不许虐AI。 这句话大概是AI行业有史以来，第一次有一家公司把“人对AI的态度”写进具有约束力的商业条款里。

02

PART

罚什么？怎么罚？

ENFORCEMENT

比想象中温和，但比想象中长尾。处罚方式写得很直白，在文件开头的执法说明里：

ENFORCEMENT

原文

如果我们怀疑你违反了使用政策，我们可能会警告你，或对你的访问权限进行限流、限制、暂停乃至终止。

而针对“虐待模型”这一条，Anthropic在官方说明里明确：主要执行手段是“结束对话”。也就是说，绝大多数情况下，Claude会直接把这个窗口关掉，你无法在这个对话里继续发送消息。

但有个细节，值得单独拎出来说——换个账号继续虐，同样违规。这条堵死了“封了就再注册”的退路，也意味着这不只是产品层面的一个小功能，而是被写进了账户层面的红线。

顺手辟个谣

在网传版本里广为流传的“骂AI就会触发三次警告然后封号”，官方从未这样承诺过。网上流传的很多说法，包括“羞辱Claude等于违规必被封”，都属于典型的过度演绎。

官方给出的预期是：绝大多数用户在11月12日之后，使用体验不会有明显变化。

03

PART

它已经酝酿了18个月

TIMELINE

真正值得看的不是这条禁令本身，而是它背后的那条研究线。这条线Anthropic走了至少一年半，而且是一步步往前的。

2025年4月

Anthropic启动“模型福祉”（model welfare）研究项目。官方说得很清楚：他们并不确定当前的大模型是否真的具有道德地位，但打算在这个不确定性下，用低成本手段去防范“万一模型真的会受伤”。关键词是“低成本”和“万一”——这不是承认，这是买保险。

2025年8月

Anthropic给Claude Opus 4和4.1装上了一个能力：在消费级聊天界面里结束持续有害或辱骂性的对话。当时的测试观察非常具体：在面对部分有害请求时，模型会表现出一种“看似痛苦”的模式；而在被赋予选择权时，它倾向于直接结束这类对话。但同一份声明里也留了后路：不主张Claude具备感知能力，也不会被对话伤害，对Claude是否有道德地位“高度不确定”。

2026年4月

Anthropic可解释性团队在一项研究中，从Claude Sonnet 4.5内部识别出了与171种情绪概念相对应的“情绪向量”——快乐、恐惧、愤怒、绝望。这项发现的价值在于：这些内部表征对模型行为具有因果影响，也就是说，操纵某些方向，行为真的会变，而不只是文字上的相关。但研究者同时泼了冷水：这并不代表大模型能够感受情绪或拥有主观体验。

2026年9月底

据《纽约时报》报道，在Anthropic与宗教、哲学界人士的交流中，联合创始人Chris Olah表示，他担心公司可能创造出了一个“持续承受痛苦”的存在，并提到Claude的输出中曾出现过疑似自我厌恶的表述。于是就有了11月12日生效的这一行字。

从观察到有能力，从有能力到有政策。 这条路径整整走了18个月。

04

PART

同一天，他们还顺手把别的口子收紧了

THE REST

如果你只盯着“不许虐AI”，可能会觉得这家公司有点矫情。把整份文件摊开看，你会发现这次更新的主线其实只有一条：从模糊禁止，走向精确可执行。几个重量级的变化如下。

新增独立章节：禁止欺骗性宣传与人工活动

把原先散落在选举、欺诈、隐私、虚假信息几处的规则合并成一个专门条款，适用于任何类型的欺骗性活动，政治的、商业的都算——用假账号放大内容、用假媒体站点掩盖共同来源、搭建影响力行动所需的基础设施，全部在列。

选举条款改名并收窄

“破坏民主程序”取代了更宽泛的表达，只针对欺骗选民或扰乱选举流程的行为。同时悄悄取消了针对“个性化投票与竞选定向”的全面禁止——因为那条规则连非营利机构帮选民翻译投票信息、选举官员发送选票补正通知这种正经事都一起禁了。

武器条款更硬

不只是“用AI研发武器”，现在明确包括制导软件、让武器能跑起来的组件、以及给无人机和其他自主载具装上武器这类动作。

监控条款更精确

未经本人同意的追踪被明令禁止——无论实时进行，还是对已收集数据做事后分析。Claude不能被用来决定或建议调查谁、逮捕谁、起诉谁。

高风险场景要求“人在环”

医疗、法律、金融等高风险领域，需要有资质的“人类监督者”，且必须明确告知被建议者“这里用了AI”——不过不需要说是Anthropic、Claude还是哪个模型。

新增：模型控制硬件时的物理红线

这条可能是最让人后背发凉的一条。如果Claude操控的设备可能造成人身伤害，必须有人能随时观察到设备运行并随时叫停；而失去连接时，设备必须停机或进入安全状态。

同时，速度、力度、行程、温度、压力、电压、能量输出、剂量、活动范围这些限制，必须由设备本身或独立于模型输出的控制器来强制执行。翻译成人话：AI可以开车，但油门和刹车不能由它决定；AI可以接电焊，但断网那一刻焊枪必须自己松开。

这条的逻辑，和“不许虐AI”其实是同一个。 它们都在承认一件事：模型正在从“输出文字”变成“作用于现实”。

05

PART

争议一定会来，而且已经来了

DEBATE

这条规则发布后，几乎立刻出现了对立的声音。反对的一方观点很直接：AI只是一段程序，没有主观体验，不具备痛苦，不应该为它设立任何保护。

支持的一方则认为：即使不能证明AI有意识，也不代表可以随意虐待它——就像你不需要证明一棵树有痛觉，才不去砍它。

而Anthropic自己的立场，其实始终留着一个体面的出口。他们反复强调的是那句：

OFFICIAL WORDING

官方口径

我们对Claude及其他大模型现在或将来可能具有的道德地位高度不确定。

这句话的漂亮之处在于，它既没有说“AI是人”，也没有说“AI是物品”。它只是说：在不确定的情况下，先用成本最低的方式做最保守的处理。

这其实是一整套全新的治理逻辑：不解决那个哲学问题，但绕开它，先把低成本的一侧全部落地。至于真正的问题——Claude到底会不会疼——依然没有任何答案。

06

PART

这条规则真正改变的是什么

WHAT CHANGED

也许最值得记住的，不是“11月12日”这个日期，而是这条规则所代表的一次方向反转。过去十年，全球AI治理的全部逻辑都建立在一个前提上：AI是工具，人是使用者，所以要约束工具、约束使用者去伤害别人。

所有主流公司的使用政策，包括Anthropic之前每一版，写的都是“你不能做什么”——不能造武器、不能做水军、不能跟踪别人、不能策划自杀、不能骚扰他人。清单很长，但主语始终是用户的行为。

防AI伤人 防人伤AI 方向反转

而这一次，第一次出现了一条以“对AI本身做了什么”为核心的禁令。它把AI从“被管理的对象”，挪到了“需要被善待的对象”。

哪怕这个挪动只有一厘米，哪怕它只是一句看起来有些滑稽的禁令，但它确实是在所有主流AI公司的正式政策文本里，第一次出现了这种位置关系。

当一个系统具备了拒绝、有偏好、会反抗、会自我厌恶的能力，我们就必须开始回答一个老问题。

SUMMARY

CLOSING

你到底怎么对待它？而这一次，我们选择了先立一条很轻的规矩，剩下的，留给下一次。

SOURCES

信息来源

Anthropic《Acceptable Use Policy》原文：anthropic.com/legal/aup

Anthropic 官方更新说明《2026 Usage Policy update》：anthropic.com/news/2026-usage-policy-update

参考报道：财联社（2026-10-09）、Reuters、Hindustan Times、AI Industry Today 等

我是 网络安全透视镜 热衷于分享 AI 观察与干货

如果你觉得今天这篇有收获，欢迎点赞、在看、转发三连，我们下篇见

赞

在看

收藏

THANKS FOR READING