摘要

当前最先进的机器翻译系统基于编码器-解码器架构，首先对输入序列进行编码，然后根据输入编码生成输出序列。编码器和解码器通过注意力机制连接，该机制根据解码器状态重新组合源标记的固定编码。我们提出了一种替代方法，该方法依赖于一个跨越两个序列的二维卷积神经网络。我们网络的每一层都根据迄今为止生成的输出序列重新编码源标记。因此，类似注意力的特性在整个网络中普遍存在。我们的模型取得了优异的结果，超越了最先进的编码器-解码器系统，同时在概念上更为简单且参数更少。