• 投稿

成功复现!2500预算本地部署DeepSeekR1-671B模型

6.3万
18
2025-02-24 00:24:26
413
53
609
146
感谢@神奇的安度因 大佬的教程与帮助,本小白经过一天的折腾,成功在本地加载了DeepSeek-R1-671B-Q4量化模型,并实现了1token/s的感人运行速度!稍后我会发篇专栏,整理一下自己在配置这台2000多的服务器的过程中遇到的一些问题及解决方案,可供参考~
要做的事,还有很多
视频选集
(1/3)
本地部署DeepSeekR1-671B-Q4模型
01:58
(彩蛋)让R1写个扫雷小游戏
02:41
运行DeepSeekR1-671B-Q8_0模型
00:57
客服
顶部
赛事库 课堂 2021拜年纪