基于栈式去噪自编码器的ANN预训练用于孤立手写孟加拉数字数据集识别
机器学习
2018-12-17 v1 机器学习
摘要
本工作尝试通过使用栈式去噪自编码器(SDA)预训练深度人工神经网络(ANN),为孟加拉数字数据集寻找最优参数设置。尽管基于SDA的识别在图像、语音和语言处理相关任务中深受研究者欢迎,但从未尝试用于孟加拉数据集识别。本工作使用了来自(Chowdhury和Rahman,2016)的70000个手写样本数据集,并采用多种网络架构设置进行识别。在所有这些设置中,发现最优设置为五个或更多更深的隐藏层配合sigmoid激活,以及一个带softmax激活的输出层。我们提出隐藏层中可使用的最优神经元数量为1500或更多。本工作得到的最小验证误差为2.34%,这是迄今所提出的手写孟加拉数据集上的最低错误率。
引用
@article{arxiv.1812.05758,
title = {On Stacked Denoising Autoencoder based Pre-training of ANN for Isolated Handwritten Bengali Numerals Dataset Recognition},
author = {Al Mehdi Saadat Chowdhury and M. Shahidur Rahman and Asia Khanom and Tamanna Islam Chowdhury and Afaz Uddin},
journal= {arXiv preprint arXiv:1812.05758},
year = {2018}
}