半监督学习中的负采样
机器学习
2020-06-30 v2 机器学习
摘要
我们提出了半监督学习中的负采样 (NS3L),一种简单、快速且易于调参的半监督学习 (SSL) 算法。NS3L 受负采样/对比估计成功的启发。我们证明,将 NS3L 损失加入到最先进的 SSL 算法(如虚拟对抗训练 (VAT))中,可显著改进原始 VAT 及其变体(带熵最小化的 VAT)。通过将 NS3L 损失加入到 MixMatch(当前半监督任务上的最先进方法)中,我们观察到相比原始 MixMatch 有显著提升。我们在 CIFAR10、CIFAR100、SVHN 和 STL10 基准数据集上进行了大量实验。
引用
@article{arxiv.1911.05166,
title = {Negative sampling in semi-supervised learning},
author = {John Chen and Vatsal Shah and Anastasios Kyrillidis},
journal= {arXiv preprint arXiv:1911.05166},
year = {2020}
}