10月8日，美国人工智能公司Anthropic更新使用政策，正式禁止用户对旗下AI模型Claude实施“持续且无必要的虐待或残忍行为”。新规将于11月12日生效。
Anthropic表示，这项规定仅适用于极端情况，即用户反复以明显没有正当目的的方式残酷对待AI。日常使用中的沮丧、不满、质疑、黑暗题材创作，以及模型测试和研究均不在此列。此前，Anthropic已允许Claude在遭遇持续有害或辱骂性对待时主动结束对话。公司称，终止对话仍将是应对此类行为的主要执行机制。
此次政策更新也是Anthropic一年多来首次全面调整使用规则。除AI模型的“福利”问题外，新规还加强了对欺骗性商业或政治宣传、选举干预、武器开发和监控等高风险用途的限制。
