• 投稿

提示词里的「不要」是个陷阱:为什么规矩越多 AI 越危险

3430
5
2026-08-26 22:00:09
58
6
78
6
我用AI拟过一份合同,它凭印象编了一个条款,直接写进了正式文件。最后款项重打、合同重签,电话是我一个个打回去的。 后来复盘,我发现问题不在模型,在我写的那份全局提示词上。 大多数人写规矩,上来就是一串"不要"——不要删我的代码、不要动我没让你动的文件、不要瞎编。写得越多,心里越踏实。 但这里有个反直觉的坑:你提到的每一个危险动作,都是你自己亲手放进AI备选名单的。 它不是不知道怎么删文件,它一直都知道。是你一提,这个动作就被摆上了桌。它本来不往那儿想,你提醒完,它就进了名单。哪天上下文一乱、指令一冲突,它就把这条抽出来了。 这期我把自己那份跑了大半年的全局提示词打开,讲清三条写法: 一、把"不要做什么"翻译成"该做什么"——我写的是"只增、只改",一个"删"字都没有,但那条危险的路自己就消失了。 二、非点名不可时,禁令必须配出口——不许删(禁)+ 要丢的移进回收站(出口)+ 真删只认亲口确认(唯一入口)。 三、提一次就够,别在所有地方各提一遍——文件里焊一道闸门:不写这条,AI会做错吗?不会,那就别写。 提示词不是越长越安全。 下期讲:规矩写了不等于起作用,你怎么验证AI真的读了、并且照做了。
前奥斯卡VFX团队|特效公司创始人|15年特效→负债创业→用AI找活路|不演不装,记录真实转型
AI实战派
(24/24)
1.5万播放
简介
Claude Code 三句命令,让 AI 自己写、自己审、自己跑!
01:08
CLAUDE.md 嵌套
01:50
用一句大白话,让 AI 给自己改造界面
01:10
反直觉神器Ralph 循环
02:10
应用搜索器find skills
01:44
智商200却三天逼疯我——AI的三个怪毛病,一条讲清Skill、MCP、Dynamic Workflow
02:11
AI最危险的不是做错——是悄悄跳步骤你根本不知道
02:48
三道机器闸,让AI没机会蒙
03:20
老板去倒咖啡后,他偷偷唱了《我这班是真没法上了》
02:31
AI什么都会了,我们到底还该学什么?
07:30
给AI装记忆的四层结构:全局/项目提示词+知识库+claude-mem
03:31
小A被抓来打广告
00:38
ep015
02:54
AI做项目为什么越改越烂?普通人该怎么给AI画靶
03:00
AI,正在变成新的攻击入口
02:51
GPT-5.6对比Fable5
04:06
学AI先学什么
05:42
3个AI工具
03:24
为什么AI越快老板越累
03:17
让AI看懂项目
02:08
17万 Star 的 DeepSeek Harness 怎么用?从安装到插件,一条视频讲清楚~
08:12
小白的第一个 AI Agent:WorkBuddy 从安装到第一次干活
18:20
WorkBuddy 项目功能详解:AI 进入团队后,协作真的会更高效吗?
08:36
提示词里的「不要」是个陷阱:为什么规矩越多 AI 越危险
03:19
客服
顶部
赛事库 课堂 2021拜年纪