用于手写字符识别的深度自学习
机器学习
2010-09-21 v1 计算机视觉与模式识别
神经与进化计算
摘要
统计机器学习领域近期的理论和实证工作已证明了深度架构（即通过组合多个非线性变换得到的函数类）学习算法的重要性。自学习（利用无标签样本或来自其他分布的样本）已被应用于深度学习者，但主要用以展示无标签样本的优势。本文探索了{\em 分布外样本}带来的优势。为此，我们开发了一个强大的字符图像随机变化和噪声过程生成器，不仅包括仿射变换，还包括倾斜、局部弹性变形、厚度变化、背景图像、灰度变化、对比度、遮挡以及各种类型的噪声。分布外样本通过高度扭曲的图像或包含与目标测试集不同的对象类别的样本获得。我们表明，{\em 深度学习者比相应的浅层学习者更能从分布外样本中受益}，至少在手写字符识别领域如此。事实上，我们证明它们超越了先前发表的结果，并在手写数字分类和62类手写字符识别上达到了人类水平的表现。
引用
@article{arxiv.1009.3589,
title = {Deep Self-Taught Learning for Handwritten Character Recognition},
author = {Frédéric Bastien and Yoshua Bengio and Arnaud Bergeron and Nicolas Boulanger-Lewandowski and Thomas Breuel and Youssouf Chherawala and Moustapha Cisse and Myriam Côté and Dumitru Erhan and Jeremy Eustache and Xavier Glorot and Xavier Muller and Sylvain Pannetier Lebeuf and Razvan Pascanu and Salah Rifai and Francois Savard and Guillaume Sicard},
journal= {arXiv preprint arXiv:1009.3589},
year = {2010}
}