Halo!!!大家好
如果你喜欢这期视频,也请欢迎【订🔔阅】【点👍赞】【留💬 言】【转⏎发】这将对我有很大的帮助!
今天尝试下 deepseek-r1:70b 本地模型(蒸馏)布署,深度思考速度还可用。
测试机:M2 MAX 96Gb 2T版本 macbook pro( 2023 )
下载数据大约43G,运行约1分钟后,风扇开始飞起,内存压力飙升,运行大约占用48g内存,显示可用内存20g左右,cpu压力反而没有那么大,详细可在视频中看到数据。
这速度你觉得怎么样呢,有问题可以在评论区交流。
本地模型还是和联网用有些差别的(不过求生欲还挺强的,很符合国人口味😎)
API接口目前无法测试,服务器繁忙。