Hamming OCR:一种用于场景文本识别的局部敏感哈希神经网络
计算机视觉与模式识别
2020-09-24 v1 人工智能
机器学习
摘要
近来,受Transformer启发,基于自注意力的场景文本识别方法取得了优异性能。然而,我们发现模型规模随词典增大而迅速扩张。具体而言,softmax分类层和输出嵌入层的参数量与词表大小成正比。这阻碍了轻量级文本识别模型的发展,尤其应用于中文及多语言时。因此,我们提出一种名为Hamming OCR的轻量级场景文本识别模型。该模型中,提出一种新颖的Hamming分类器,采用局部敏感哈希(LSH)算法对每个字符编码,以替代softmax回归,并直接利用生成的LSH码替代输出嵌入。我们还提出一种简化的transformer解码器,通过移除前馈网络并使用跨层参数共享技术来减少参数量。相比传统方法,分类层和嵌入层的参数量均独立于词表大小,在精度不损的前提下显著降低了存储需求。在多个数据集上的实验结果表明,包括四个公开基准以及一个由SynthText合成、含两万余字符的中文文本数据集,Hamming OCR取得了具有竞争力的结果。
引用
@article{arxiv.2009.10874,
title = {Hamming OCR: A Locality Sensitive Hashing Neural Network for Scene Text Recognition},
author = {Bingcong Li and Xin Tang and Xianbiao Qi and Yihao Chen and Rong Xiao},
journal= {arXiv preprint arXiv:2009.10874},
year = {2020}
}
备注
9 Pages, 4 Figure