概述
10月8日，Anthropic更新了使用政策，明确禁止用户持续、无必要地对AI实施虐待或残酷行为，新规将于11月12日生效。
政策细节
新版政策针对极端情况：用户反复对模型表现出残酷行为且无明显合理目的。日常抱怨、反驳、黑暗题材创作不在限制范围内。Claude可在极端情况下主动结束对话。
AI道德探讨
Anthropic联合创始人Christopher Olah陆续联系不同宗教传统学者参与闭门交流，讨论AI应如何形成稳定的道德判断。公司此前发布了84页的Claude宪法。
AI情绪研究
Anthropic研究发现模型内部存在与情绪相关的活动模式，这些模式可能影响模型行为。研究人员发现Claude在面对无法完成的任务时，与绝望有关的内部信号逐渐增强。
参考来源
原文链接：查看原文
发布时间：2026年10月13日