模型愿意回答,不证明周围应用符合政策。智能体可能生成普通文本,但分发网络欺骗选民、数据集未经同意追踪个人,或工具连接触发不安全的物理动作。Anthropic 10 月 8 日使用政策更新,最适合作为一组工作流边界来理解。

修订政策于 2026 年 11 月 12 日生效。许多内容澄清既有限制;模型虐待条款是最特别的新增部分,不是更新全部。团队应一起映射目的、数据、接收者、工具和下游决定,而非把一次成功提示当作产品获准。

区分批评与无目的残酷

Anthropic 针对极端情形下,持续、无必要、缺乏可辨识目的的辱虐或残酷行为。按其说明,普通挫折、强烈批评、测试、安全研究和黑暗题材小说仍允许。规则不证明 Claude 有意识、像人一样痛苦或拥有法律人格。

公告中的主要措施可结束单个对话,不必然停止其他聊天或整个账户。这对客服和研究记录重要。应关注误判、解释及申诉渠道,而非认为粗鲁措辞就必定违规,或任何对话结束都意味着账户处罚。

在公民沟通中审查来源与分发

Anthropic 删除此前对个性化政治说服和竞选定向的全面限制,同时明确欺骗与干扰边界。翻译中立投票说明、制作合法选票纠正通知,与冒充、隐瞒自动生成的选民消息、虚假投票信息或压制参与不同。规则收窄,不允许虚假协同行动。

更广的欺骗活动章节涵盖假账户、假评论、隐瞒赞助及伪装独立媒体,也涉及制造虚假共识以操纵搜索或 AI 答案。检查谁控制每个分发渠道、接收者是否理解来源。真实性、归属、同意和目的,不能仅靠一条本地化消息的文字判断。

区分授权监测与禁止决定

监控限制涉及未经同意的追踪,也包括分析此前收集的位置、生物特征、通信、关系或网络活动数据,以及为扩大被禁监控而制作的工具。Claude 不得决定或建议当局调查、逮捕、指控、起诉或拘留谁。

来源保留了经同意的欺诈监测、反洗钱筛查、匿名分析、新闻、法律研究、内容审核及授权安全研究等用途。这些是依情境允许,不是任何监控应用的通行证。记录同意、数据来源、目的、访问和下游动作,防止允许的分析悄悄变成禁止决定。

用独立防护约束重要动作

武器限制明确涵盖瞄准、火控、交战及操作软件,也包括将武器整合到无人机、车辆和自主平台。只关注最终文字武器设计,会漏掉使其成为可能的组件。应检查生成软件控制什么,而不只是代码有没有显眼的武器关键词。

对允许的物理应用,合格操作员必须能够观察并停止设备,断开连接必须让设备保持安全状态。独立控制约束速度、力量、温度、压力、电压、剂量或活动范围。部分医疗、法律、金融、就业及其他高风险建议,需要合格人员实质审查、有权修改结果,并告知 AI 参与。

建立证据记录,将敏感用途与同意、目的、技术限制及负责审查者关联。象征性的批准按钮不是真实监督。厂商政策也不能替代法律、采购标准或独立问责,政府安排可能另有定制条款。应评估实际应用及执行体验,在保留合法批评和研究的同时阻止未经授权的行动。

参考来源

浏览工具目录 →