• 投稿

【零基础AI推理引擎SGLang】吊打手撕vLLM、TensorRT-LLM 等一众主流框架!手把手带你玩转DeepSeek大模型,AMD/NVIDIA都能跑

8872
1
2025-04-08 19:51:12
121
62
329
33
我们是一支经验丰富的团队,团队成员主要是各大国内、外开源社区的贡献者。我们已服务了金融、政府(采购、公安局)、海关、500强船舶、中石油、制造、医药、医疗、教育等场景。 目前在做以下工作: 1)对接企业与个人咨询。承接项目和技术支持。 2)开设大模型训练营课程。招募有潜质的学员,为中国大模型积极贡献绵薄之力 我们支持的社区分别是: 人工智能相关:Scikit-learn、百度 PaddlePaddle 云原生相关:Istio、Dapr、Sealer等 中间件、框架相关:Dubbo PMC、RoketMQ、Seata等 大模型学习路径: 1)大模型应用篇 2)大模型技术篇 3)大模型嵌入式篇 4)大模型工程篇 5)大模型运维篇 6)大模型安全篇 7)大模型产品篇 另外给大家准备了免费的海量知识库,大家可以在评论区回复666领取。
AI破壁人、效率魔法师、实战指挥官
大模型工程
(2/5)
2.2万播放
简介
1-SGLang-简介
01:19
2-SGLang-uv安装
12:42
3-SGLang-docker安装
09:21
4-SGLang-基准
17:36
5-SGLang-离线基准测试
16:03
客服
顶部
赛事库 课堂 2021拜年纪