• 投稿

【杂谈】分享下个人在字幕制作过程中使用AI语音识别的心得

5542
1
2025-08-31 23:40:21
119
57
289
21
AI语音识别对字幕制作的助力巨大,然而目前使用最为广泛的Whisper的时间轴识别准确度并不出色,相比之下两年半以前发布的WhisperX(https://github.com/m-bain/whisperX)在此基础上做出了很大改进。其原理是在语音识别前先使用VAD (Voice Activity Detection)将含有语音的音频段落切分出来,并且在识别后使用额外的语音模型对识别结果进行调整(”校对“)(https://www.robots.ox.ac.uk/~vgg/publications/2023/Bain23/bain23.pdf)。除了提升句级时间轴的准确性外,WhisperX还可用于精确到词级的时间轴拆分以及不同说话者 的区分。然而,尽管WhisperX提供了这种更准确的效果,据本人所知其在48G字幕制作这个圈子里的应用仍然十分有限。 本人在两年半以前开始依赖WhisperX制作字幕,期间也短暂尝试过其他工具(如N46Whisper、CapCut、油管自带字幕等),但WhisperX的整体效果一直是明显比较出色的(此外CapCut在某次更新之后导出字幕需要付费会员,因此被本人直接放弃)。通过模仿N46Whisper部署在Google Colab上的方式,也避免了本地AI识别对显卡性能的要求。因此在这里想要把WhisperX以及本人的Whisper48脚本介绍给更多同好。 支持AI语音识别的软件还有很多,大部分是基于whisper的,但也有一些其他模型。不同模型对不同语言的支持效果差异很大,英语或汉语的使用经验未必能和日语直接相互转化。本人并非AI相关专业,对各类软件和模型的认识也都十分有限,欢迎有更多了解的朋友提出意见和建议。 关于AI翻译,个人感觉目前没有很成熟准确的字幕文件翻译方案,特别是字幕逐行翻译的风格天然和AI翻译的方式不太匹配,并且使用AI翻译所必需的token花费也是一个障碍(个人希望在做字幕这件事上全部采用免费或开源的方式),因此就当前而言本人最推荐的还是靠手动翻译/AI辅助。 感谢@鯊魚菜菜 用AI小栗制作了前面一段语音。 ----- Supporting Information WhisperX: 版本v3.3.4,使用whisper48部署在Google Colab上(https://github.com/ifeimi/Whisper48),模型为large-v3,chunk_size为5. N46Whisper: 部署在Google Colab上(https://github.com/Ayanaminn/N46Whisper),模型为large-v3,VAD filter为关闭, beam size为5. Whisper on PotPlayer: 版本250625,转换引擎为Whisper-Faster,模型为large-v3,VAD filter为启用或关闭. CapCut: 版本v6.9.0. 识别后的所有字幕均使用了Aegisub的“时间后续处理器 - 使相邻字幕行连续”功能,对最大间隙500 ms/最大重叠500 ms的字幕行进行了首尾衔接。 素材视频:【総監督MTG】AKBについて本音で語り合いました。〈小栗有以編〉(https://www.youtube.com/watch?v=ti2XuXkbmJ0)
客服
顶部
赛事库 课堂 2021拜年纪