• 投稿

论文分享:从Online Softmax到FlashAttention-2

1.6万
61
2023-12-20 12:00:00
469
351
1128
145
南京大学计算机系研究生,分享组会上讲解的Flash Attention。课件逻辑主要参考《From Online Softmax to FlashAttention》和《图解大模型计算加速系列:FlashAttention V1,从硬件到计算逻辑》两篇文章。本人水平有限,如有错漏请不吝赐教。
客服
顶部
赛事库 课堂 2021拜年纪