中文

由多尺度深度神经网络反演赋能的半监督学习

机器学习 2018-03-01 v1 机器学习

摘要

深度神经网络(DNNs)在若干困难的机器感知任务中提供了最先进的解决方案。然而,其性能依赖于大量标注训练数据的可用性,这限制了其适用广度。因此,需要面向 DNN 的新的{\em 半监督学习}方法,能够同时利用(少量的)标注与未标注训练数据。本文中,我们开发了一个通用损失函数,使任意拓扑的 DNN 都能以半监督方式训练而无需额外超参数。与当前基于拓扑特定或不稳定方法的半监督技术不同,我们的方法既鲁棒又通用。我们证明,我们的方法在 SVHN(9.82%9.82\% 测试误差,使用 500500 个标签与 wide Resnet)和 CIFAR10(16.38% 测试误差,使用 8000 个标签与 sigmoid 卷积神经网络)数据集上达到了 SOTA 性能。

关键词

引用

@article{arxiv.1802.10172,
  title  = {Semi-Supervised Learning Enabled by Multiscale Deep Neural Network Inversion},
  author = {Randall Balestriero and Herve Glotin and Richard Baraniuk},
  journal= {arXiv preprint arXiv:1802.10172},
  year   = {2018}
}