【8】KV Cache 原理讲解
图解大模型的KV Cache——图解+transformers源码阅读
《Attention is all you need》论文解读及Transformer架构详细介绍
奇葩问题把李沐大神整不会了
【12】LoRA、QLoRA 讲解
大模型量化一网打尽(一)理论基础
DeepSeek-MOE原理讲解
【官方双语】直观解释注意力机制,Transformer的核心 | 【深度学习第6章】
清晰说明——什么是大语言模型(LLM:从零到一)【1】
【13】Attention的QKV输出的到底是什么?
【10】Sparse Attention & Infini Attention 稀疏注意力和无限注意力
Flash Attention-v1,v2,v3 论文精读
【大模型推理】大模型推理 Prefill 和 Decoder 阶段详解
【5】手写 Train.py 大模型代码逻辑
李宏毅:大语言模型生成速度加速的方法之一Flash Attention
【4】手写 Model.py 大模型代码逻辑
【浙江大学-大模型原理与技术】1-0 序言
Attention、Transformer公式推导和矩阵变化
博客分享:从MHA、MQA、GQA到MLA
有难度但必读的一篇论文《DeepSeekMath》