通过在线图构建实现卷积神经网络的半监督学习
神经与进化计算
2016-01-20 v2 计算机视觉与模式识别
机器学习
摘要
近期深度学习的可喜成就依赖于大量标注数据。考虑到网络上的数据丰富,其中大多数根本没有标签。因此,在具有少量标注实例的监督任务中,利用未标注数据来提升泛化性能非常重要。在这项工作中,我们重新审视了基于图的半监督学习算法,并提出了一种更适合深度卷积神经网络的在线图构建技术。我们考虑了一种用于深度神经网络半监督学习的类 EM 算法:在前向传播中,基于网络输出构建图,然后在后向传播中利用该图计算损失以通过反向传播帮助更新网络。我们展示了我们的在线方法相较于传统方法的优势,传统方法的图是预先基于静态但不够鲁棒的特征表示构建的。
引用
@article{arxiv.1511.06104,
title = {Semi-supervised Learning for Convolutional Neural Networks via Online Graph Construction},
author = {Sheng-Yi Bai and Sebastian Agethen and Ting-Hsuan Chao and Winston Hsu},
journal= {arXiv preprint arXiv:1511.06104},
year = {2016}
}
备注
As the original submission of iclr is withdrawn, the arxiv submission should be withdrawn as well