AI语音识别对字幕制作的助力巨大,然而目前使用最为广泛的Whisper的时间轴识别准确度并不出色,相比之下两年半以前发布的WhisperX(https://github.com/m-bain/whisperX)在此基础上做出了很大改进。其原理是在语音识别前先使用VAD (Voice Activity Detection)将含有语音的音频段落切分出来,并且在识别后使用额外的语音模型对识别结果进行调整(”校对“)(https://www.robots.ox.ac.uk/~vgg/publications/2023/Bain23/bain23.pdf)。除了提升句级时间轴的准确性外,WhisperX还可用于精确到词级的时间轴拆分以及不同说话者
的区分。然而,尽管WhisperX提供了这种更准确的效果,据本人所知其在48G字幕制作这个圈子里的应用仍然十分有限。
本人在两年半以前开始依赖WhisperX制作字幕,期间也短暂尝试过其他工具(如N46Whisper、CapCut、油管自带字幕等),但WhisperX的整体效果一直是明显比较出色的(此外CapCut在某次更新之后导出字幕需要付费会员,因此被本人直接放弃)。通过模仿N46Whisper部署在Google Colab上的方式,也避免了本地AI识别对显卡性能的要求。因此在这里想要把WhisperX以及本人的Whisper48脚本介绍给更多同好。
支持AI语音识别的软件还有很多,大部分是基于whisper的,但也有一些其他模型。不同模型对不同语言的支持效果差异很大,英语或汉语的使用经验未必能和日语直接相互转化。本人并非AI相关专业,对各类软件和模型的认识也都十分有限,欢迎有更多了解的朋友提出意见和建议。
关于AI翻译,个人感觉目前没有很成熟准确的字幕文件翻译方案,特别是字幕逐行翻译的风格天然和AI翻译的方式不太匹配,并且使用AI翻译所必需的token花费也是一个障碍(个人希望在做字幕这件事上全部采用免费或开源的方式),因此就当前而言本人最推荐的还是靠手动翻译/AI辅助。
感谢@鯊魚菜菜 用AI小栗制作了前面一段语音。
-----
Supporting Information
WhisperX: 版本v3.3.4,使用whisper48部署在Google Colab上(https://github.com/ifeimi/Whisper48),模型为large-v3,chunk_size为5.
N46Whisper: 部署在Google Colab上(https://github.com/Ayanaminn/N46Whisper),模型为large-v3,VAD filter为关闭, beam size为5.
Whisper on PotPlayer: 版本250625,转换引擎为Whisper-Faster,模型为large-v3,VAD filter为启用或关闭.
CapCut: 版本v6.9.0.
识别后的所有字幕均使用了Aegisub的“时间后续处理器 - 使相邻字幕行连续”功能,对最大间隙500 ms/最大重叠500 ms的字幕行进行了首尾衔接。
素材视频:【総監督MTG】AKBについて本音で語り合いました。〈小栗有以編〉(https://www.youtube.com/watch?v=ti2XuXkbmJ0)