我用AI拟过一份合同,它凭印象编了一个条款,直接写进了正式文件。最后款项重打、合同重签,电话是我一个个打回去的。
后来复盘,我发现问题不在模型,在我写的那份全局提示词上。
大多数人写规矩,上来就是一串"不要"——不要删我的代码、不要动我没让你动的文件、不要瞎编。写得越多,心里越踏实。
但这里有个反直觉的坑:你提到的每一个危险动作,都是你自己亲手放进AI备选名单的。
它不是不知道怎么删文件,它一直都知道。是你一提,这个动作就被摆上了桌。它本来不往那儿想,你提醒完,它就进了名单。哪天上下文一乱、指令一冲突,它就把这条抽出来了。
这期我把自己那份跑了大半年的全局提示词打开,讲清三条写法:
一、把"不要做什么"翻译成"该做什么"——我写的是"只增、只改",一个"删"字都没有,但那条危险的路自己就消失了。
二、非点名不可时,禁令必须配出口——不许删(禁)+ 要丢的移进回收站(出口)+ 真删只认亲口确认(唯一入口)。
三、提一次就够,别在所有地方各提一遍——文件里焊一道闸门:不写这条,AI会做错吗?不会,那就别写。
提示词不是越长越安全。
下期讲:规矩写了不等于起作用,你怎么验证AI真的读了、并且照做了。