关注你所读：非循环手写文本行识别
计算机视觉与模式识别
2020-05-28 v1
摘要
循环神经网络在手写识别中的出现标志着一个重要的里程碑，尽管不同书写风格之间存在巨大差异，仍达到了令人印象深刻的识别准确率。序列架构非常适合对文本行建模，这不仅因为文本固有的时间特性，还为了学习字符和单词序列上的概率分布。然而，使用此类循环范式在训练阶段是有代价的，因为其顺序流水线阻碍了并行化。在这项工作中，我们引入了一种利用 transformer 模型识别手写文本的非循环方法。我们提出了一种绕过任何循环的新方法。通过在视觉和文本阶段使用多头自注意力层，我们能够处理字符识别，并学习待解码字符序列的语言相关依赖关系。我们的模型不受任何预定义词汇表的约束，能够识别词汇表外的词，即未出现在训练词汇表中的词。我们显著超越了先前的最佳方法，并证明即使在少样本学习场景下也能取得令人满意的识别准确率。
引用
@article{arxiv.2005.13044,
title = {Pay Attention to What You Read: Non-recurrent Handwritten Text-Line Recognition},
author = {Lei Kang and Pau Riba and Marçal Rusiñol and Alicia Fornés and Mauricio Villegas},
journal= {arXiv preprint arXiv:2005.13044},
year = {2020}
}