中文

基于注意力的全门控CNN-BGRU用于俄文手写文本识别

计算机视觉与模式识别 2021-02-10 v5 机器学习

摘要

本研究采用在哈萨克语和俄语上训练的注意力编码器-解码器网络来处理手写文本任务。我们开发了一种基于全门控CNN、并由多重双向GRU和注意力机制支撑的新型深度神经网络模型,以处理复杂特征,在第一测试集上取得了0.045字符错误率(CER)、0.192词错误率(WER)和0.253序列错误率(SER),在第二测试集上取得了0.064 CER、0.24 WER和0.361 SER。此外,我们通过利用Tanh的输出特征与输入特征的多次叠加提出全门控层,该工作取得了更好的结果,并在手写哈萨克语与俄语数据库(HKR)上对我们的模型进行了实验。我们的研究是HKR数据集上的首个工作,并对大多数其他现有模型展示了最先进的结果。

关键词

引用

@article{arxiv.2008.05373,
  title  = {Attention-based Fully Gated CNN-BGRU for Russian Handwritten Text},
  author = {Abdelrahman Abdallah and Mohamed Hamada and Daniyar Nurseitov},
  journal= {arXiv preprint arXiv:2008.05373},
  year   = {2021}
}