首页

投稿

4x2080ti 22G 组装低成本AI服务器跑Qwen1.5-110B-int4竟如此丝滑？

7.7万

85

2024-06-07 18:14:12

未经作者授权，禁止转载

草凡博客：https://www.caovan.com 草凡人工智能：https://www.caovan.cn 草凡数字人：https://clone.caovan.cn 草凡智能体：https://ai.caovan.cn

大语言模型

deepseek本地部署

玩科技的舒发消息

草凡博客：www.caovan.com

4x2080Ti 22G 遇上Qwen3.6-27B | 不仅OpenClaw实现Token自由，还能帮我自动选币？

20:41

211高校师生都在用什么样配置的深度学习服务器？| GPU服务器配置分享

09:39

真实客户案例展示4x3090的Ubuntu服务器本地部署运行deepseek R1 32B模型

07:24

最少可以用2张22G的2080Ti来运行DeepSeek-R1 671B模型，推理速度可达3.54tokens/s

16:53

告别「服务器繁忙」！这可能是DeepSeek本地部署性价比最高的方案！没有之一

11:35

那些还在用2080ti的人是真的很穷吗？

06:49

粉丝新配了一台4x2080Ti 22G的AI服务器，能否遇到好卡还得看运气！

07:23

4x2080ti 22G 组装低成本AI服务器跑Qwen1.5-110B-int4竟如此丝滑？

24:02

4张魔改版22G 2080TI 自建AI服务器全过程记录 | 这个坑我先替你踩！| 哪天翻车我再发视频告诉大家！

12:49

100%本地部署智能语音助手方案 | 超低延迟，实时交互 | 超真实人声，可定制、可训练 | 对接本地大语言模型

17:37

4x2080Ti22G低成本二手服务器搭建全套AI多媒体工作室 | 大语言模型、生图comfyui、语音合成TTS、语音转写STT、openclaw

04:44

【实测】单张2080Ti 22G + 256G内存运行DeepSeek-V4-Flash！FastL

08:28

最高加速近50%！2080Ti vLLM 草凡推理加速插件评测和安装使用教程 | caovan vLLM SM75 Turbo3

24:16

最高速度 >100+tokens/s 2080Ti 跑 Qwen3.6-27B vLLM 推理加速插件最新版教程

16:31

顶部