摘要

适配器模块（Adapter modules）最近被引入作为自然语言处理（NLP）领域中微调（fine-tuning）的一种高效替代方案。适配器调优（Adapter tuning）通过冻结预训练模型的参数，并在模型各层之间注入轻量级模块，仅引入少量与任务相关的可训练参数，从而实现高效参数更新。尽管适配器调优已在多语言神经机器翻译中得到研究，本文则首次对适配器在多语言语音翻译（Speech Translation, ST）任务中的应用进行了系统性分析。基于不同的预训练模型（包括在平行语料上训练的多语言语音翻译模型，以及在非平行多语言语料上训练的多语言BART，即mBART），本文证明适配器可用于：（a）以极低的参数开销，高效地将语音翻译模型专门化于特定语言对；（b）实现从自动语音识别（ASR）任务及mBART预训练模型到多语言语音翻译任务的迁移。实验结果表明，适配器调优在性能上可与全量微调相媲美，同时具备显著更高的参数效率。