首页

投稿

19、Transformer模型Encoder原理精讲及其PyTorch逐行实现

24.5万

1210

2021-11-27 00:49:46

未经作者授权，禁止转载

直播深度学习算法原理与项目源码讲解，欢迎关注我的直播间：https://live.bilibili.com/14297368?spm_id_from=333.999.0.0

deep_thoughts 发消息

在有限的生命里怎么样把握住时间专注做点自己喜欢做的、对别人也有点价值的事情，是我们应该时常自查的。

1、PyTorch介绍与张量的创建

42:00

2、PyTorch张量的运算API（上）

32:06

3、PyTorch张量的运算API（下）

48:16

4、PyTorch的Dataset与DataLoader详细使用教程

35:30

5、深入剖析PyTorch DataLoader源码

42:30

6、PyTorch中搭建分类网络实例

43:50

7、深入剖析PyTorch nn.Module源码

01:13:10

8、深入剖析PyTorch的state_dict、parameters、modules源码

49:53

9、深入剖析PyTorch的nn.Sequential及ModuleList源码

46:14

10、PyTorch autograd使用教程

31:05

11、PyTorch中如何进行向量微分、矩阵微分与计算雅克比行列式

33:12

12、如何在PyTorch中训练模型

37:33

13、详细推导自动微分Forward与Reverse模式

54:08

14、如何保存与加载PyTorch训练的模型和超参数

37:50

15、Dropout原理以及其TF/Torch/Numpy源码实现

45:45

16、PyTorch中进行卷积残差模块算子融合

01:14:04

17、ConvMixer模型原理及其PyTorch逐行实现

44:43

18、深入剖析PyTorch中的Transformer API源码

01:07:40

19、Transformer Encoder原理精讲及其PyTorch逐行实现

01:50:37

20、Transformer Decoder原理精讲及其PyTorch逐行实现

59:13

21、Transformer Masked loss原理精讲及其PyTorch逐行实现

45:54

22、PyTorch nn.Conv2d卷积网络使用教程

33:34

23、手写并验证滑动相乘实现PyTorch二维卷积

52:44

24、手写并验证向量内积实现PyTorch二维卷积

58:21

25、手写实现nn.TransposedConv转置卷积

52:18

26、手写卷积与转置卷积的代码总结

41:48

27、手写实现PyTorch的DilatedConv和GroupConv

59:41

28、Vision Transformer(ViT)模型原理及PyTorch逐行实现

01:07:26

29、PyTorch RNN的原理及其手写复现

01:30:48

30、PyTorch LSTM和LSTMP的原理及其手写复现

01:16:29

31、PyTorch GRU的原理及其手写复现

39:18

32、基于PyTorch的文本分类项目模型与训练代码讲解

55:10

33、完整讲解PyTorch多GPU分布式训练代码编写

01:14:56

34、Swin Transformer论文精讲及其PyTorch逐行复现

01:38:20

35、基于PyTorch手写Attention-based Seq2Seq模型

37:41

36、PyTorch训练加速技巧与爱因斯坦标示法

01:05:52

37、Word Embedding原理精讲及其PyTorch API教程讲解

49:54

38、ConvNeXt论文导读与模型精讲

49:22

39、基于PyTorch的ConvNeXt模型代码逐行讲解

33:12

40、ConvNeXt各向同性模型与分布式训练代码逐行讲解

40:37

41、ResNet模型精讲以及PyTorch复现逐行讲解

01:01:32

42、Masked AutoEncoder(MAE)论文导读与模型详细介绍

01:02:41

43、逐行讲解Masked AutoEncoder(MAE)的PyTorch代码

01:50:32

44、Layer Normalization论文导读与原理精讲

01:12:06

45、五种归一化的原理与PyTorch逐行手写实现讲解(BatchNorm/LayerNorm/InsNorm/GroupNorm/WeightNorm)

01:11:29

46、四种Position Embedding的原理与PyTorch手写逐行实现（Transformer/ViT/Swin-T/MAE）

01:03:49

47、GAN原理讲解与PyTorch手写逐行讲解

01:33:31

48、快速复现PyTorch的Weight Normalization

19:07

49、cGAN及LSGAN的原理与PyTorch手写逐行讲解

49:07

50、NormalizingFlow(标准化流)论文导读与原理精讲

01:05:16

51、基于PyTorch ResNet18的水果蔬菜分类项目逐行代码讲解

01:08:13

52、逐行讲解Excel/Csv文件数据转成PyTorch张量导入模型

26:29

53、NormalizingFlow(标准化流)的PyTorch代码逐行讲解

01:21:49

54、Probabilistic Diffusion Model概率扩散模型理论与完整PyTorch代码详细解读

01:36:09

55、PyTorch的交叉熵、信息熵、二分类交叉熵、负对数似然、KL散度、余弦相似度的原理与代码讲解

01:18:46

56、U-Net用于图像分割以及人声伴奏分离原理代码讲解

43:46

57、Autoregressive Diffusion Model自回归扩散模型用于序列预测论文讲解

48:50

58、Improved Diffusion的PyTorch代码逐行深入讲解

02:26:58

59、基于CLIP/ViT模型搭建相似图像检索系统

41:17

60、VITS最前沿语音合成模型的论文原理精讲

01:34:31

61、VITS最前沿语音合成模型的PyTorch代码逐行讲解

03:15:46

62、Score Diffusion Model分数扩散模型理论与完整PyTorch代码详细解读

02:24:42

63、必看！概率扩散模型(DDPM)与分数扩散模型(SMLD)的联系与区别

46:36

64、扩散模型加速采样算法DDIM论文精讲与PyTorch源码逐行解读

02:09:54

65、【特别视频】AI教程评论区在线答疑之2022-10-25

35:55

66、Classifier Guided Diffusion条件扩散模型论文与PyTorch代码详细解读

01:30:27

67、DiffusionLM 基于扩散模型的语言模型论文原理精讲

56:30

68、VQVAE预训练模型的论文原理及PyTorch代码逐行讲解

01:20:21

69、VQGAN+Transformer自回归建模图像生成的论文原理细致讲解

01:06:53

70、VQGAN+GPT1自回归建模图像的代码讲解（上）

51:16

71、VQGAN模型+VQ离散化模块的代码讲解

50:34

72、爆火的GPT-2论文讲解

50:32

73、爆火必看的nano-GPT2 Pytorch经典代码逐行讲解

01:22:01

74、GPT-3论文原理讲解

53:18

75、Llama源码讲解之RoPE旋转位置编码

26:05

76、Llama源码讲解之RMS-Norm

13:43

77、Llama源码讲解之GroupQueryAttention和KV-cache

21:14

78、Llama源码讲解之Transformer

17:48

79、Llama源码讲解之自回归采样生成算法

21:02

80、Byte Pair Encoding 源码逐行讲解

47:45

81、LLaMA-1 论文导读

36:34

82、LLaMA-2 论文导读

55:27

83、llama 3.1 405B？15.6T？

39:59

84、GPT-4o之实时语音对话系统技术原理讲解

02:20:42

85、Differential Transformer原理与代码讲解

54:58

顶部