关于数据增强与基于一致性的半监督学习
机器学习
2021-01-19 v1 机器学习
应用统计
摘要
近期提出的基于一致性的半监督学习(SSL)方法,如 -model、时序集成、均值教师或虚拟对抗训练,已在若干 SSL 任务中推进了最先进水平。这些方法通常能在仅使用少量标记样本的情况下达到可与全监督对应方法相媲美的性能。尽管有这些方法论进展,对这类方法的理解仍相对有限。在本文中,我们在可解析求解的设置下分析 -model(的变体)。我们建立了与流形切分类器的联系,并证明扰动的质量是获得合理 SSL 性能的关键。重要的是,我们提出了隐流形模型的一个简单扩展,其自然地纳入了数据增强方案,并为理解与实验 SSL 方法提供了框架。
引用
@article{arxiv.2101.06967,
title = {On Data-Augmentation and Consistency-Based Semi-Supervised Learning},
author = {Atin Ghosh and Alexandre H. Thiery},
journal= {arXiv preprint arXiv:2101.06967},
year = {2021}
}