
摘要
时频(TF)域双路径模型实现了高保真语音分离。尽管一些先前的最先进(SoTA)模型依赖于递归神经网络(RNNs),但这种依赖意味着它们缺乏Transformer块的并行性、可扩展性和灵活性。鉴于纯基于Transformer的架构在其他领域的广泛应用和成功,本研究专注于从TF域双路径模型中移除RNN,同时保持最先进性能。本文提出了一种基于Transformer的模型——TF-Locoformer,该模型通过卷积实现局部建模(LOcal-modeling by COnvolution)。该模型使用带有卷积层的前馈网络(FFNs),而不是线性层,来捕捉局部信息,从而使自注意力机制能够专注于捕捉全局模式。我们在自注意力机制之前和之后各放置了两个这样的FFN,以增强局部建模能力。我们还为TF域双路径模型引入了一种新的归一化方法。实验结果表明,在多个分离和增强数据集上,所提出的模型在无RNN架构下达到了或超过了最先进水平。
代码仓库
merlresearch/tf-locoformer
官方
pytorch
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| speech-enhancement-on-deep-noise-suppression | TF-Locoformer (M) | FLOPS (G): 497.24 Number of parameters (M): 15 PESQ-WB: 3.72 SI-SDR-WB: 23.3 STOI: 98.8 |
| speech-separation-on-libri2mix | TF-Locoformer (M) | Number of parameters (M): 15 SDRi: 22.2 SI-SDRi: 22.1 |
| speech-separation-on-whamr | TF-Locoformer (M) | Number of parameters (M): 15 SDRi: 16.9 SI-SDRi: 18.5 |
| speech-separation-on-whamr | TF-Locoformer (S) | Number of parameters (M): 5 SDRi: 15.9 SI-SDRi: 17.4 |
| speech-separation-on-wsj0-2mix | TF-Locoformer (S) + DM | Number of parameters (M): 5.0 SDRi: 23 SI-SDRi: 22.8 |
| speech-separation-on-wsj0-2mix | TF-Locoformer (M) | Number of parameters (M): 15.0 SDRi: 23.8 SI-SDRi: 23.6 |
| speech-separation-on-wsj0-2mix | TF-Locoformer (L) + DM | Number of parameters (M): 22.5 SDRi: 25.2 SI-SDRi: 25.1 |
| speech-separation-on-wsj0-2mix | TF-Locoformer (S) | Number of parameters (M): 5.0 SDRi: 22.1 SI-SDRi: 22 |
| speech-separation-on-wsj0-2mix | TF-Locoformer (M) + DM | Number of parameters (M): 15.0 SDRi: 24.7 SI-SDRi: 24.6 |
| speech-separation-on-wsj0-2mix | TF-Locoformer (L) | Number of parameters (M): 22.5 SDRi: 24.3 SI-SDRi: 24.2 |