基于注意力的全门控CNN-BGRU用于俄文手写文本识别
计算机视觉与模式识别
2021-02-10 v5 机器学习
摘要
本研究采用在哈萨克语和俄语上训练的注意力编码器-解码器网络来处理手写文本任务。我们开发了一种基于全门控CNN、并由多重双向GRU和注意力机制支撑的新型深度神经网络模型,以处理复杂特征,在第一测试集上取得了0.045字符错误率(CER)、0.192词错误率(WER)和0.253序列错误率(SER),在第二测试集上取得了0.064 CER、0.24 WER和0.361 SER。此外,我们通过利用Tanh的输出特征与输入特征的多次叠加提出全门控层,该工作取得了更好的结果,并在手写哈萨克语与俄语数据库(HKR)上对我们的模型进行了实验。我们的研究是HKR数据集上的首个工作,并对大多数其他现有模型展示了最先进的结果。
引用
@article{arxiv.2008.05373,
title = {Attention-based Fully Gated CNN-BGRU for Russian Handwritten Text},
author = {Abdelrahman Abdallah and Mohamed Hamada and Daniyar Nurseitov},
journal= {arXiv preprint arXiv:2008.05373},
year = {2021}
}