代码地址: https://github.com/XuLvXiu/sekiro_dqn_ai
在本次项目中,我们终于可以不用再对 state 做更多的特征工程了(原有的特征工程依旧保留了一部分),因为 DQN 的 state 空间可以是无限的,直接把游戏截图做为 state 传进去就好。
最终训练得到的 DQN policy,在绝大多数场景中都选择了防御,它找到的攻击机会,与此前图像相似度方法找到的攻击机会相比,次数大致相当。但系统整体的稳定性有所下降,忍杀(打崩 boss 的架势条之后一击必杀)也很少出现了。