• 投稿

deepseek-70b 本地模型 M2 Max 96G这速度可用?

1.8万
5
2025-02-05 21:07:54
作者声明:个人观点,仅供参考
56
10
52
19
Halo!!!大家好 如果你喜欢这期视频,也请欢迎【订🔔阅】【点👍赞】【留💬 言】【转⏎发】这将对我有很大的帮助! 今天尝试下 deepseek-r1:70b 本地模型(蒸馏)布署,深度思考速度还可用。 测试机:M2 MAX 96Gb 2T版本 macbook pro( 2023 ) 下载数据大约43G,运行约1分钟后,风扇开始飞起,内存压力飙升,运行大约占用48g内存,显示可用内存20g左右,cpu压力反而没有那么大,详细可在视频中看到数据。 这速度你觉得怎么样呢,有问题可以在评论区交流。 本地模型还是和联网用有些差别的(不过求生欲还挺强的,很符合国人口味😎) API接口目前无法测试,服务器繁忙。
合作请联系:xty1988118@126.com
客服
顶部
赛事库 课堂 2021拜年纪