• 投稿

骁龙8至尊GPU OpenCL加速llama.cpp qwen2.5 3b 7b测试

3298
0
2025-02-23 23:41:14
41
14
45
2
似乎是成功开启了gpu opencl加速,可以看到gpu的负载上去了,右上角可看功耗信息。根据官方的文档,对q4_0的模型有优化,所以跑的模型都是q4_0的。
精通Linux C Java拼写的Golang程序员
客服
顶部
赛事库 课堂 2021拜年纪