• 投稿

酒馆AI省钱攻略之:上下文管理

9629
3
2026-06-29 14:23:25
131
21
339
11
之前我发了个关于酒馆预设的笔记,就有不少人问我,哪个预设比较省钱。 实际上,玩酒馆要省钱的话,有非常多的因素要考虑,今天就讲一个我认为最重要的——上下文管理。如何做到既能省钱,又不会丢失记忆。 如果只是在酒馆里聊个几十楼,那你完全不用操心这个问题。但重度玩家,1000楼甚至只是刚开始。我就有过这种经历,只是用个ds-flash,以为不花什么钱,结果聊了1000发现竟然花了几十块,当时我就震惊了,这要是gemini或者claude不得花上千了? 这篇文章就把这里面的坑都讲清楚。 一、绝对别乱改上下文长度 第一个要注意的事,就是别把上下文长度设太小。 之前我天真地以为,把上下文调小一点,AI每次处理的token少了,肯定能省钱。结果后来一翻账单,天塌了。 怎么回事呢。 酒馆这个东西,在聊天记录接近你设的上下文上限时,它不会自动帮你压缩,它是直接截取聊天记录的最后n条,前面的全部扔掉。 什么意思。 你每发一次消息,AI看到的上下文,前缀一直在变。这里跟大家说一个知识点(不确定大家是否知道),你使用AI时,如果能用到模型缓存,那价格就是10倍以上的降低(deepseek尤其如此),而使用缓存的条件就是,发过去的消息前缀要跟之前一致。 像酒馆这种机制,如果你把上下文设的太小,而你的聊天记录又太长,那么它每一次都会自动给你截断,于是你的缓存命中率为零,每一句新的聊天,都会带上历史消息走一遍原价API,花钱超级加倍。 所以现在的流行预设,上下文长度全都直接给你拉到最大,你就别去动了。 当然,你要是真把它调到5万以下,确实也能省钱,但代价是,几十层之前的东西AI就完全不记得了。 二、手动大总结 那怎么办?难道就让上下文一直累积,一直涨到爆炸? 当然不是,这里我介绍一个方法,就是大总结。 很多预设里面其实都自带了自动大总结模式,一键用也挺方便的。但我最推荐的,还是手动来。 为什么呢。 每一步都是自己操作的,心里有底,而且完全不用担心效果不如预设的自动模式,原理其实都是一样的。 三、具体怎么操作 在你聊到上下文很长的时候,比如快1000楼了,先别急着往下推进。暂停一下,跟AI发下面这段话。 暂停聊天,总结发生过的所有剧情,输出以下内容: 1. 发生过的事件 | 时间 | 地点 | 人物 | 事件 | | ------| -----------------| ------| ------| 2. 所有角色 | 角色名 | 与其他角色关系 | 重要事件 | 状态 | | --------| ----------------| ----------| ------| 这里有一个非常关键的细节,发这段话的时候,不要带任何预设。 先把预设关掉,用最原生的模式发过去。因为如果你的预设还挂在上面,很可能会覆盖掉你的总结意图。AI一个没留神就继续角色扮演去了,完全不搭理你的总结指令。 成功的话,AI会把上面的表格填好,返回一份整整齐齐的剧情和角色档案。 接下来,把AI返回的内容,原封不动复制下来,贴进世界书里。 条目状态选永久,就是那个蓝色圆点,其他参数不用动。 搞定,长期记忆就有了。 然后还有一个关键步骤,把现有的聊天记录隐藏掉。 在聊天输入栏里输入 /hide 0-1000 就是隐藏0到1000楼的聊天记录。具体隐藏多少你自己定。 这一套操作下来,上下文长度嗖一下就降了,记忆也没丢。 四、记忆表格插件 那么除了上面的手动大总结,还可以搭配一个东西,叫做记忆表格插件(去搜st-memory-enhancement)。 它的作用就是在聊天过程中,自动把需要记下的东西,存成表格。 OK,大总结+记忆表格,基本上酒馆记忆管理就没问题了。 五、缓存命中率 开头就说到,缓存命中率对省钱的重要性。 酒馆的缓存命中率,跟非常多东西有关,预设、世界书、插件,都可能影响,不是三言两语能讲清楚,我大概讲一下原则。 首先就是世界书,只使用永久状态的(蓝色圆点)。 然后,总结类插件(包括上面说的记忆表格)、前端类插件(比如说著名的MVU),都是会降低缓存命中的。MVU这个插件,很多角色卡都会用,如果你想缓存命中高省点钱,那么变量更新方式就选择“随AI输出”,但效果是不如“额外模型解析”的,这个要自己去权衡。 再就是预设,要是在意缓存命中,可以去找那些专门优化了缓存命中的插件。但说句实话,效果好的预设缓存命中都不高、命中高的效果基本都那样,想要既能满足自己需要、又能省钱的插件,看来只能自己缝合了。 最后,建议操作完成后,看一看后台的账单,每一次请求的token数是不是降低了、缓存命中率如何。 如果觉得有用,顺手点个三连吧,如果想第一时间收到推送,也可以给我个关注~ / 作者:Kitt在进化
✨ 亲手搭建有血有肉的AI世界
客服
顶部
赛事库 课堂 2021拜年纪