摘要

基于循环神经网络（Recurrent Neural Networks, RNNs）的手写文本识别技术的出现，标志着该领域的一个重要里程碑。尽管不同书写风格之间存在显著差异，该技术仍取得了令人瞩目的识别准确率。序列化架构之所以非常适合建模文本行，不仅因其天然的时间序列特性，还在于其能够学习字符与词语序列的概率分布。然而，采用此类循环范式在训练阶段付出了高昂代价，因为其串行处理流程难以实现并行化。本文提出一种非循环的新型方法，利用Transformer模型实现手写文本识别。我们设计了一种创新性方法，完全摒弃了循环结构。通过在视觉与文本两个阶段均引入多头自注意力（multi-head self-attention）机制，模型不仅能有效完成字符识别，还能捕捉待解码字符序列中的语言相关依赖关系。该模型不依赖于预定义词汇表，具备识别训练词汇外（out-of-vocabulary）词语的能力，即能够识别训练数据中未出现过的词汇。实验结果显著超越了现有技术，充分证明了该方法在少样本学习（few-shot learning）场景下仍可实现优异的识别准确率。