面向半监督学习的对抗式特征分布对齐
计算机视觉与模式识别
2019-12-24 v1
摘要
仅用少量标注样本训练深度神经网络会导致过拟合。这在仅有少量标注样本可用的半监督学习（SSL）中是有问题的。本文中，我们指出 SSL 中过拟合的一个后果是标注样本与未标注样本之间的特征分布错位。因此，我们提出一种新的特征分布对齐方法。我们的方法在仅使用少量标注样本时尤为有效。我们在 CIFAR10 与 SVHN 上测试了该方法。在 SVHN 上，我们取得了 3.88%（250 标注样本）与 3.39%（1000 标注样本）的测试误差，接近全监督模型 2.89%（73k 标注样本）的表现。相比之下，当前 SOTA 仅达到 4.29% 与 3.74%。最后，我们提供了特征分布错位为何发生的理论洞见，并展示我们的方法减轻了该现象。
引用
@article{arxiv.1912.10428,
title = {Adversarial Feature Distribution Alignment for Semi-Supervised Learning},
author = {Christoph Mayer and Matthieu Paul and Radu Timofte},
journal= {arXiv preprint arXiv:1912.10428},
year = {2019}
}