• 投稿

[LLM原理] FlashAttention 内部机制解析:探索高效注意力计算实现原理

3375
1
2025-02-27 09:03:07
96
52
197
15
在本期视频中,我将从伪代码和手绘图的角度详细解析 FlashAttention 的内部原理。通过直观的图示和代码示例,希望帮助大家更好地理解其在高效注意力计算中的关键实现机制。欢迎大家在观看后讨论交流,共同深入探讨这一技术细节!
我是小小升,一只在 ML System 里摸爬滚打的学生,边学边记录。合作 air_haohan@163.com
LLM原理
(2/5)
2.6万播放
简介
[LLM原理] 投机解码原理:预测执行的加速之道
07:55
[LLM原理] FlashAttention 内部机制解析:探索高效注意力计算实现原理
15:20
[LLM 原理] MQA、GQA、DeepSeek MLA 是什么?——KVCache 相关技术解析
08:28
[LLM原理] 为什么能做KVCache?——从基础推导看其推理优化
09:38
[LLM推理] 深入理解大模型量化:GPTQ 原理解析
26:02
客服
顶部
赛事库 课堂 2021拜年纪