首页

投稿

Ray+vLLM大模型分布式部署全流程演示

8018

3

2025-11-14 20:51:57

未经作者授权，禁止转载

超大模型分布式部署，Ray+vLLM方案张量并行流水线并行

大模型部署

分布式部署

西瓜讲大模型发消息

1. 10多年技术经验2. 连续创业，融资过亿3. 数致未来AI首席科学家4. 致力于AI大模型事业

自学 AI 大模型的学习路线推荐

03:19

降低大模型幻觉的5种方案

03:47

知识图谱是什么？和大模型的关系是什么？

04:39

GraphRAG的原理是什么？真有用？

06:08

搞大模型必备的4种开源工具

04:46

做大模型应用有哪4个坑？

04:13

大模型项目如何判断用RAG还是微调？

05:19

一键提取PDF内容和一键生成知识图谱

04:20

落地 AI Agent 的技术方案有哪些？

03:28

大模型为什么会有幻觉？

03:47

什么是大模型量化和蒸馏？

03:38

3分钟讲清楚大模型预训练和微调

03:21

RAG和知识图谱如何结合？

04:16

经典RAG落地中的关键问题总结

04:24

RAG 架构演进之路

10:13

推荐4个好用的大模型微调平台

02:24

向量数据库技术选型依据

04:52

微调一个模型核心关注哪些点？

02:49

知识库效果评估方案推荐

04:46

落地RAG的技术栈推荐

06:22

大白话解释什么是Agent

04:19

搞大模型为什么需要GPU？

02:05

大模型的参数指的是什么？

08:15

大模型应用开发框架推荐

03:55

推荐四种落地 Agent 的方案

03:57

RAG 和 Agent 的本质区别是什么？

02:56

分享落地RAG的一个坑之相似度不准(1)

04:59

分享落地rag的一个坑之表格数据处理(2)

02:46

大白话解释OpenAI新的O1模型为什么牛？

04:54

OpenAI新的o1(草莓)模型对Agent的影响

03:33

分享落地RAG的一个坑之大模型幻觉问题

01:37

落地RAG，用ES？还是用知识图谱？

03:35

大白话解释Scaling Law

02:26

我们为什么需要Agent？

03:00

我们为什么需要向量？

04:13

不同开发语言的大模型开发框架推荐

02:01

大模型为什么会有幻觉？怎么解决幻觉问题？

03:56

阿里重磅发布！Spring AI Alibaba 开发框架

08:25

大模型总体技术选型总结

02:13

怎么计算模型推理需要多少GPU？

03:20

提示词工程，RAG和微调如何选型？

04:19

彻底帮你搞定大模型RAG技术栈

03:30

基于大模型构建知识库，怎么评估需要多少资源？

04:25

搞大模型不得不会的一个网站-HuggingFace

06:10

当前的大模型技术能否走向AGI？

02:23

迄今为止最强的多Agent开发框架-Swarm

07:24

一个大模型项目失败的可能性原因有哪些？

05:24

什么是智能体(Agent)？什么是工作流(Workflow)？

05:47

你的知识库的准确率为什么低于95%？

07:05

Dify与Coze对比

02:53

大模型超过外部函数导致Token溢出怎么办？

06:13

彻底搞定RAG技术栈

06:57

推荐2个优秀的开源本地知识库项目

02:19

什么是RAG？什么是Agent？什么是Workflow？

06:03

大模型高性能管理平台推荐

05:59

AI模型技术架构全景图

06:42

落地RAG，为什么我建议用多路召回？

03:23

FastGPT、Dify、Coze产品功能对比分析

03:21

基于Dify打造企业图文私有知识库

12:31

强烈推荐一个优秀的本地知识库项目

04:51

手把手带你实现图文企业知识库

14:58

本人推荐一个能系统解决你RAG问题的课

05:08

AI大模型工程落地技术体系梳理

05:30

落地一个知识库，常见的方案有哪些？

03:06

什么是Agent？什么是WorkFlow？什么是RAG？

07:00

落地RAG，3分RAG，7分数据工程

05:42

花几百万训练的大模型，为什么会免费开源？

02:01

AI大模型应用开发工程师学习路线

07:10

手把手教你基于DeepSeek打造本地知识库

09:02

通俗易懂解释清楚DeepSeek的创新点

10:10

全参数DeepSeek企业部署方案(满血版)

10:46

基于DeepSeek蒸馏出专属模型

01:51:00

QwQ与DeepSeek R1能力对比测试

06:40

微调和RAG分别用在什么场景？

05:46

如何测试大模型的并发能力？

05:02

推荐一个最适合AI开发的算力本

04:35

哪些场景适合用微调？

04:10

推荐3个部署开源大模型的工具

04:53

企业级大模型部署工具vLLM

03:42

从这儿开始精通大模型MCP技术

07:29

Dify接入自研的MCP服务器

15:34

分享3年大模型项目落地感悟

06:48

手把手带你微调出医疗大模型

02:47:15

AI大模型应用开发工程师学习路线

17:30

为什么要基于知识图谱构建RAG知识库？

03:58

大模型部署推理加速框架推荐

05:00

Ray+vLLM大模型分布式部署全流程演示

01:09:48

基于vLLM部署开源模型企业级方案

01:31:44

Ray+vLLM超大模型分布式部署全流程演示

01:09:48

大模型应用开发工程师学习路线

27:25

基于大模型蒸馏小模型全流程

01:51:00

大模型Agent项目实战课✖手把手教学✖10万+源码

03:44

如何成为AI大模型应用开发工程师？

31:23

推荐一个企业级AI大模型微调项目实战课

09:17

AI大模型应用开发工程师(企业级)

31:23

AI大模型应用开发工程师-详细学习路径

31:23

AI大模型应用开发工程师学习路线图

31:23

全网最全！从原理到实战，学Agent看这一个就够了

07:45

大模型应用开发工程师学习路线图谱(详细)

31:23

如何快速成为专业的Agent开发工程师？

07:45

全网最全！AI大模型应用开发学习【路线图】

27:35

AI大模型应用开发学习路线全讲透

27:35

AI的下一个风口，不是模型，是Agent开发！

07:45

从原理到实战，学Agent开发看这一个就够了

07:45

手把手带你打造垂直大模型！

06:36

手把手带你成为Agent开发工程师！

07:45

转行AI大模型应用开发工程师的学习路线！

27:35

手把手教你做Agent开发工程师？

07:45

如何成为Agent开发工程师？

07:45

手把手带你快速成为Agent开发工程师！

07:45

如何快速掌握Agent开发技术？

07:45

怎么样快速成为Agent开发工程师？

07:45

如何达到企业级的Vibe Coding水平？

18:39

如何快速掌握Vibe Coding？

12:41

如何快速掌握Agent开发技术？

07:45

快速掌握Vibe Coding全栈开发技巧

12:41

手把手教你Vibe Coding实战！

12:41

Vibe Coding实战指南

12:41

Vibe Coding从入门到精通体系课

12:41

Vibe Coding技能从入门到精通(全套课)

12:41

Agent企业项目实战全套体系课

07:45

快速成为Agent开发工程师(全套体系课)

07:45

如何快速成为Agent开发工程师？

07:45

Vibe Coding全栈开发实战训练营，招生啦！

12:41

如何快速成为Agent开发工程师？【全套项目实战课】

07:45

跟我快速成为Agent开发工程师！

07:45

手把手带你做Agent企业级项目！10万+代码量！全栈开发

07:45

跟我学，手把手带你微调出垂直大模型！

06:36

跟我学，成为Agent开发工程师

07:45

快速成为Agent开发工程师！

12:09

Agent开发工程师学习路线-Offer直通

12:09

从原理到实战，学习Agent看这个【学习路线】就够了！

12:09

快速搞定Agent开发找工作，看这个学习路线！

12:09

手把手教你，如何快速成为Agent开发工程师？

07:45

35天付费课程，手把手带你成为Agent开发工程师！

12:09

手把手带你进行企业级微调项目实战【全套】

06:36

基于MinerU处理PDF文件工程化落地方案

01:04:24

手把手带你成为Agent开发工程师【高口碑课程】

12:09

如何快速成为Agent开发工程师？

07:45

手把手带你成为Agent开发工程师！

12:09

顶部