首页

投稿

【2026最新版】这绝对是B站唯一将vLLM推理优化从入门到精通讲明白的教程，一个视频学懂VLLM内部原理，KV Cache，PageAttention

5.5万

299

2026-04-22 14:10:46

未经作者授权，禁止转载

一个视频带你学会如何优化vLLM推理吞吐

Paged Attention

码士集团-马小萱发消息

学如逆水行舟，不进则退

1.什么是大模型？

27:06

2.什么是大模型推理

08:38

3.大模型推理的两个阶段

07:55

4.推理的核心问题是什么

07:47

5.Paged Attention解决KV Cache内存碎片

13:02

6.Batching如何提示CPU利用率

08:32

7.vLLM智能调度

04:50

8.Nano-vLLM项目架构总览

06:42

9.vLLM推理引擎代码案列

27:20

10.AI大模型学习笔记

25:36

11.AI大模型的诞生

46:58

12.AI大模型训练范式

19:52

13. Qwen3不同版本模型介绍

20:22

14.Qwen3-8B模型微调代码实战

01:16:35

15.大模型是如何诞生的？

11:11

16.什么是大模型偏好对齐

08:43

17.大模型RLHF与DPO区别

20:54

18.大模型DPO算法实战

41:16

19.什么是GRPO？

03:41

20.强化学习PPO

07:33

21.强化学习的流程

07:18

22.强化学习的种类

22:55

23.怎样才能吃到人工智能时代的红利

14:19

24.软件安装jupyter

15:43

25.NumPy数组引出

27:48

26.NumPy数组创建

14:51

27.NumPy数据查看

10:09

28.NumPy数据保存和数据类型

22:42

29.NumPy数组运算

09:09

30.NumPy索引和切片

25:28

31.作业讲解

28:41

32.形状改变

36:34

33.广播机制

14:50

34.通用函数

39:26

35.矩阵运算

06:54

36.mysql安装

11:04

37.作业讲解

40:30

38.玫瑰花颜色调整

10:48

39.pandas安装与数据结构

21:04

40.pandas数据查看与读写

29:16

41.数据选择

17:56

42.作业回顾

27:17

43.数据筛选赋值操作 - 副本

15:41

44.数据筛选赋值操作

15:41

45.数据集成-concat方式

08:07

46.数据集成-insert方式

09:12

47.数据集成-merge方式

19:50

48.数据清洗

26:40

49.数据转换（轴和元素、map函数）

21:29

50.数据转换apply转换

16:05

51.作业介绍与数据转换

33:13

52.数据重塑

19:27

53.数学和统计指标

21:47

54.数据排序

04:27

55.分箱操作

05:38

56.分组聚合

30:04

57.数据可视化

15:25

58.homework回顾

11:22

顶部