果然,超长上下文什么解法都是虚的,总结就是最优解,数据库不过是更好的总结,我之前尝试将状态栏什么的删掉来节约上下文tokens,的确,总tokens猛猛下降20K,但是使用API的时候,未命中缓存猛猛增加(因为修改了上下文的对话内容导致的~当时我居然没想到会有这个后果),刷刷的把我的资金耗掉了,然后也没什么太大的用处,对话轮次变成100的时候依旧不行~于是紧急取消了这个功能,到时候玩本地AI可以用,但是用API就不建议了。
结果研究来研究去,还是保留一开始和系统的上下文,以及最近5条上下文是最好的方式,这样别说1000轮了,无论怎么玩,都只有50轮。
除了一键总结,还尝试了让AI控制角色的显示和隐藏,
取得了非常好的效果,现在角色可以动态的出现了。
不再像是之前那样,直接出现一屏幕的人,然后顶多有个睡眠图标表示不存在了。
现在是直接消失了,只渲染当前对话场景出现的角色。
看来的确是可以放心的把更多任务交给AI来判断,
甚至战斗都可以让AI来演出自走棋式的战斗播报。