4 个月前

爱丁堡神经机器翻译系统在WMT 16中的应用

爱丁堡神经机器翻译系统在WMT 16中的应用

摘要

我们在WMT 2016共享新闻翻译任务中参与了四个语言对的神经翻译系统构建,每个语言对都进行了双向训练:英捷(English<->Czech)、英德(English<->German)、英罗(English<->Romanian)和英俄(English<->Russian)。我们的系统基于注意力机制的编码器-解码器架构,使用BPE子词分割技术进行开放词汇表翻译,同时保持固定词汇表。我们尝试了使用单语新闻语料库的自动回译作为额外训练数据、广泛使用的dropout技术以及目标双向模型。所有报告的方法均带来了显著的改进,我们的系统在基线系统的BLEU分数上提高了4.3至11.2分。在人工评估中,我们在所参与的8个翻译方向中的7个方向上被评为最佳(并列)受限系统。

代码仓库

基准测试

基准方法指标
machine-translation-on-wmt2016-czech-englishAttentional encoder-decoder + BPE
BLEU score: 31.4
machine-translation-on-wmt2016-englishAttentional encoder-decoder + BPE
BLEU score: 26.0
machine-translation-on-wmt2016-english-1BiGRU
BLEU score: 28.1
machine-translation-on-wmt2016-english-czechAttentional encoder-decoder + BPE
BLEU score: 25.8
machine-translation-on-wmt2016-english-germanAttentional encoder-decoder + BPE
BLEU score: 34.2
machine-translation-on-wmt2016-german-englishAttentional encoder-decoder + BPE
BLEU score: 38.6
machine-translation-on-wmt2016-romanianAttentional encoder-decoder + BPE
BLEU score: 33.3
machine-translation-on-wmt2016-russianAttentional encoder-decoder + BPE
BLEU score: 28.0

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
爱丁堡神经机器翻译系统在WMT 16中的应用 | 论文 | HyperAI超神经