省流:
RX 6600之类的、不被ROCm支持的老卡可以用Vulkan,这玩意通用;
新锐的卡可以用ROCm,比如7900XTX、9070XT之类的;
有些模型有深度优化空间,ROCm性能显著,比如Qwen3-TTS,有些则和Vulkan没啥区别,比如IndexTTS-2.5;
程序整合包:https://pan.baidu.com/s/18KmETxuCkxBEzNBynu9kFA?pwd=ikxc 提取码: ikxc
下载最新的v0.7.0
仓库地址:https://www.modelscope.cn/models/HereIsMark/audio.cpp-gguf,在这里找IndexTTS-2.5的就行
8G显存用F16量化或者Q8量化的,防止爆显存;
仓库原始地址:https://github.com/0xShug0/audio.cpp
生成的音频质量是没问题的,断句错误、分词错误、特殊字符错误是文本归一化的问题,并非模型问题,这是个audio.cpp难以解决的问题。
audio.cpp可以跑原始的safetensor模型(但是IndexTTS并非safetensor模型),只是gguf更方便。