Universum处方：使用无标签数据的正则化
机器学习
2016-11-21 v7
摘要
本文表明，简单地为无标签数据规定“非上述类别”标签对监督学习具有有益的正则化效果。我们称之为universum处方(Universum Prescription)，因为所规定的标签不能是监督标签中的任何一个。尽管简单，universum处方在训练深度卷积网络用于CIFAR-10、CIFAR-100、STL-10和ImageNet数据集时取得了具有竞争力的结果。给出了使用拉德马赫复杂度对这些方法进行定性论证。还经验性地研究了正则化参数——从无标签数据采样的概率——的影响。
引用
@article{arxiv.1511.03719,
title = {Universum Prescription: Regularization using Unlabeled Data},
author = {Xiang Zhang and Yann LeCun},
journal= {arXiv preprint arXiv:1511.03719},
year = {2016}
}
备注
7 pages for article, 3 pages for supplemental material. To appear in AAAI-17