DropSample：一种增强深度卷积神经网络用于大规模无约束手写汉字识别的新训练方法
计算机视觉与模式识别
2015-05-21 v1
摘要
受心理学领域 Leitner 学习盒理论的启发，我们提出 DropSample，一种训练深度卷积神经网络 (DCNNs) 的新方法，并将其应用于大规模在线手写汉字识别 (HCCR)。根据 DropSample 的原理，每个训练样本关联一个配额函数，该函数基于 DCNN softmax 输出给出的分类置信度动态调节。在一次学习迭代后，低置信度的样本在下次迭代中有更高概率被选为训练数据；相反，训练良好且识别良好、具有极高置信度的样本在下次训练迭代中涉及的概率较低，并可逐渐被淘汰。结果，学习过程随进行变得更为高效。此外，我们研究利用领域特定知识，通过在传统 CNN 前添加领域知识层来增强 DCNN 性能。通过采用 DropSample 结合不同类型领域特定知识，HCCR 的准确率可得到有效提升。在 CASIA-OLHDWB 1.0、CASIA-OLHWDB 1.1 和 ICDAR 2013 在线 HCCR 竞赛数据集上的实验分别取得了 97.33%、97.06% 和 97.51% 的出色识别率，均显著优于文献中先前报道的最佳结果。
引用
@article{arxiv.1505.05354,
title = {DropSample: A New Training Method to Enhance Deep Convolutional Neural Networks for Large-Scale Unconstrained Handwritten Chinese Character Recognition},
author = {Weixin Yang and Lianwen Jin and Dacheng Tao and Zecheng Xie and Ziyong Feng},
journal= {arXiv preprint arXiv:1505.05354},
year = {2015}
}
备注
18 pages, 8 figures, 5 tables