首页

投稿

【2026】最新版大模型推理框架vLLM原理详解！把大模型推理最重要的两个阶段及核心问题+技能全都讲明白，大模型入门教程，从零基础小白到大神只要这套就够了！

6.1万

246

2026-04-08 19:19:47

未经作者授权，禁止转载

制作不易，大家记得点个关注，一键三连呀【点赞，收藏，转发】感谢支持

大模型入门

大模型推理

饭饭大王ouo 发消息

036082

解析 vLLM 推理引擎核心框架

02:06

AI大模型工程师必备技能：应用开发与算法原理

23:34

推理过程的两个阶段：预填充与解码

02:54

大模型推理流程概述与分词（Tokenization）原理

54:53

Page Attention：基于分页的动态KV缓存机制

23:15

推理引擎核心机制：Page Attention与Continuous Batching

27:33

Flash Attention：加速注意力计算的原理与GPU优化机制

14:23

Qwen 3 本地部署与微调实战

03:16

大模型演进三阶段理论

03:06

ModelScope模型库解析

18:03

模型选择与部署策略

06:57

LoRA高效微调原理

15:49

微调实战代码详解

09:37

上下文长度（Context Length）科普

29:42

就业导向,关键答疑汇总

32:58

Deep Research概念普及

06:08

Deep Research核心工作流程与技术原理

15:17

DeepAgent框架核心工具详解

25:24

手撕Deep Research代码实现

28:25

运行演示与效果验证

21:31

延伸讨论与行业前沿

21:01

LangChainV1.0开讲前的补充

11:09

LangChainV1.0的介绍

11:52

LangChainV1.0版的革新

13:56

Agent的定义和环境搭建

23:25

LangChainV1.0调用大模型(一)

14:15

LangChainV1.0调用大模型(二)

22:17

LangChainV1.0调用大模型(三)

15:05

调用模型的速率限制

14:27

国内外的大模型结构化输出

16:33

创建一个Agent项目

17:26

部署Agent项目到本地服务器

12:07

智能体中定义工具(一)

17:56

智能体中定义工具(二)

16:20

工具测试和Agent整合

14:12

智能体中定义工具(三)

19:50

智能体中的异步工具

05:17

基于Agent的TextToSQL案例(一)

12:08

基于Agent的TextToSQL案例(二)

16:59

基于Agent的TextToSQL案例(三)

21:29

基于Agent的TextToSQL案例(四)

15:19

基于Agent的TextToSQL案例(五)

11:38

基于Agent的TextToSQL案例(六)

09:03

基于Agent的TextToSQL案例(七)

23:37

基于Agent的TextToSQL案例(八)

10:29

顶部