3 个月前

WaveFlow:一种用于原始音频的紧凑型基于流的模型

WaveFlow:一种用于原始音频的紧凑型基于流的模型

摘要

在本工作中,我们提出了一种轻量级的原始音频生成流模型——WaveFlow,该模型采用最大似然法直接进行训练。WaveFlow 通过扩张的二维卷积架构有效建模一维波形的长程结构,同时利用表达能力强的自回归函数捕捉局部变化。WaveFlow 为基于似然的 1-D 数据建模提供了一个统一的视角,其中 WaveNet 和 WaveGlow 均可视为其特例。与 WaveNet 一样,WaveFlow 能够生成高保真语音,同时在生成速度上实现了数量级的提升——仅需少数几轮串行计算即可生成包含数十万时间步的超长波形。此外,该模型显著缩小了自回归模型与基于流的模型在高效语音合成中长期存在的似然性能差距。最后,我们的轻量级 WaveFlow 模型仅包含 591 万个参数,相比 WaveGlow 减少了 15 倍;在未使用专门优化推理内核的情况下,该模型可在 V100 GPU 上以 939.3 kHz 的速率实现 22.05 kHz 高保真音频生成,速度达到实时的 42.6 倍。

代码仓库

L0SG/NanoFlow
pytorch
GitHub 中提及
caillonantoine/waveflow
pytorch
GitHub 中提及
PaddlePaddle/Parakeet
官方
paddle
GitHub 中提及
L0SG/WaveFlow
pytorch
GitHub 中提及

基准测试

基准方法指标
speech-synthesis-on-librittsWaveFlow
M-STFT: 1.1120
MCD: 1.2455
PESQ: 3.027
Periodicity: 0.1416
V/UV F1: 0.9410

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
WaveFlow:一种用于原始音频的紧凑型基于流的模型 | 论文 | HyperAI超神经