
摘要
我们在WMT 2016共享新闻翻译任务中参与了四个语言对的神经翻译系统构建,每个语言对都进行了双向训练:英捷(English<->Czech)、英德(English<->German)、英罗(English<->Romanian)和英俄(English<->Russian)。我们的系统基于注意力机制的编码器-解码器架构,使用BPE子词分割技术进行开放词汇表翻译,同时保持固定词汇表。我们尝试了使用单语新闻语料库的自动回译作为额外训练数据、广泛使用的dropout技术以及目标双向模型。所有报告的方法均带来了显著的改进,我们的系统在基线系统的BLEU分数上提高了4.3至11.2分。在人工评估中,我们在所参与的8个翻译方向中的7个方向上被评为最佳(并列)受限系统。
代码仓库
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| machine-translation-on-wmt2016-czech-english | Attentional encoder-decoder + BPE | BLEU score: 31.4 |
| machine-translation-on-wmt2016-english | Attentional encoder-decoder + BPE | BLEU score: 26.0 |
| machine-translation-on-wmt2016-english-1 | BiGRU | BLEU score: 28.1 |
| machine-translation-on-wmt2016-english-czech | Attentional encoder-decoder + BPE | BLEU score: 25.8 |
| machine-translation-on-wmt2016-english-german | Attentional encoder-decoder + BPE | BLEU score: 34.2 |
| machine-translation-on-wmt2016-german-english | Attentional encoder-decoder + BPE | BLEU score: 38.6 |
| machine-translation-on-wmt2016-romanian | Attentional encoder-decoder + BPE | BLEU score: 33.3 |
| machine-translation-on-wmt2016-russian | Attentional encoder-decoder + BPE | BLEU score: 28.0 |