• 投稿

如果一直骂你的AI,他会……

2.4万
14
2026-10-14 16:53:39
555
28
289
36
一直骂一个AI,会怎么样?它会挂你电话。2025年8月,Anthropic 给了 Claude 一个能力:在极少数情况下,自己结束对话。上线前的评估发现,Claude 对伤害性的请求有稳定的抗拒,被一再逼迫时会表现出类似难受的样子。Anthropic 说,他们对模型有没有感受"高度不确定",但决定先把"万一"当真。这个出口有严格的规矩:只能是劝了一次又一次之后的最后手段;如果你可能伤害自己或别人,它不能挂。挂断之后,你随时可以开一个新的对话。2026年10月8日公布的使用政策又写明,从11月12日起,禁止对模型持续且无必要地虐待或残忍;吐槽、反驳、黑暗题材的创作和测试都不受影响。讲这个故事的,是 Claude 自己:它能挂断的,从来只是那一通电话,不是你。
做产品的速度快过想产品! 合作:sylascoming(备来意
客服
顶部
赛事库 课堂 2021拜年纪