之前我发了个关于酒馆预设的笔记,就有不少人问我,哪个预设比较省钱。
实际上,玩酒馆要省钱的话,有非常多的因素要考虑,今天就讲一个我认为最重要的——上下文管理。如何做到既能省钱,又不会丢失记忆。
如果只是在酒馆里聊个几十楼,那你完全不用操心这个问题。但重度玩家,1000楼甚至只是刚开始。我就有过这种经历,只是用个ds-flash,以为不花什么钱,结果聊了1000发现竟然花了几十块,当时我就震惊了,这要是gemini或者claude不得花上千了?
这篇文章就把这里面的坑都讲清楚。
一、绝对别乱改上下文长度
第一个要注意的事,就是别把上下文长度设太小。
之前我天真地以为,把上下文调小一点,AI每次处理的token少了,肯定能省钱。结果后来一翻账单,天塌了。
怎么回事呢。
酒馆这个东西,在聊天记录接近你设的上下文上限时,它不会自动帮你压缩,它是直接截取聊天记录的最后n条,前面的全部扔掉。
什么意思。
你每发一次消息,AI看到的上下文,前缀一直在变。这里跟大家说一个知识点(不确定大家是否知道),你使用AI时,如果能用到模型缓存,那价格就是10倍以上的降低(deepseek尤其如此),而使用缓存的条件就是,发过去的消息前缀要跟之前一致。
像酒馆这种机制,如果你把上下文设的太小,而你的聊天记录又太长,那么它每一次都会自动给你截断,于是你的缓存命中率为零,每一句新的聊天,都会带上历史消息走一遍原价API,花钱超级加倍。
所以现在的流行预设,上下文长度全都直接给你拉到最大,你就别去动了。
当然,你要是真把它调到5万以下,确实也能省钱,但代价是,几十层之前的东西AI就完全不记得了。
二、手动大总结
那怎么办?难道就让上下文一直累积,一直涨到爆炸?
当然不是,这里我介绍一个方法,就是大总结。
很多预设里面其实都自带了自动大总结模式,一键用也挺方便的。但我最推荐的,还是手动来。
为什么呢。
每一步都是自己操作的,心里有底,而且完全不用担心效果不如预设的自动模式,原理其实都是一样的。
三、具体怎么操作
在你聊到上下文很长的时候,比如快1000楼了,先别急着往下推进。暂停一下,跟AI发下面这段话。
暂停聊天,总结发生过的所有剧情,输出以下内容:
1. 发生过的事件
| 时间 | 地点 | 人物 | 事件 |
| ------| -----------------| ------| ------|
2. 所有角色
| 角色名 | 与其他角色关系 | 重要事件 | 状态 |
| --------| ----------------| ----------| ------|
这里有一个非常关键的细节,发这段话的时候,不要带任何预设。
先把预设关掉,用最原生的模式发过去。因为如果你的预设还挂在上面,很可能会覆盖掉你的总结意图。AI一个没留神就继续角色扮演去了,完全不搭理你的总结指令。
成功的话,AI会把上面的表格填好,返回一份整整齐齐的剧情和角色档案。
接下来,把AI返回的内容,原封不动复制下来,贴进世界书里。
条目状态选永久,就是那个蓝色圆点,其他参数不用动。
搞定,长期记忆就有了。
然后还有一个关键步骤,把现有的聊天记录隐藏掉。
在聊天输入栏里输入
/hide 0-1000
就是隐藏0到1000楼的聊天记录。具体隐藏多少你自己定。
这一套操作下来,上下文长度嗖一下就降了,记忆也没丢。
四、记忆表格插件
那么除了上面的手动大总结,还可以搭配一个东西,叫做记忆表格插件(去搜st-memory-enhancement)。
它的作用就是在聊天过程中,自动把需要记下的东西,存成表格。
OK,大总结+记忆表格,基本上酒馆记忆管理就没问题了。
五、缓存命中率
开头就说到,缓存命中率对省钱的重要性。
酒馆的缓存命中率,跟非常多东西有关,预设、世界书、插件,都可能影响,不是三言两语能讲清楚,我大概讲一下原则。
首先就是世界书,只使用永久状态的(蓝色圆点)。
然后,总结类插件(包括上面说的记忆表格)、前端类插件(比如说著名的MVU),都是会降低缓存命中的。MVU这个插件,很多角色卡都会用,如果你想缓存命中高省点钱,那么变量更新方式就选择“随AI输出”,但效果是不如“额外模型解析”的,这个要自己去权衡。
再就是预设,要是在意缓存命中,可以去找那些专门优化了缓存命中的插件。但说句实话,效果好的预设缓存命中都不高、命中高的效果基本都那样,想要既能满足自己需要、又能省钱的插件,看来只能自己缝合了。
最后,建议操作完成后,看一看后台的账单,每一次请求的token数是不是降低了、缓存命中率如何。
如果觉得有用,顺手点个三连吧,如果想第一时间收到推送,也可以给我个关注~
/ 作者:Kitt在进化