鲁棒深度半监督学习:简要介绍
机器学习
2022-11-15 v2
摘要
半监督学习(SSL)是机器学习的一个分支,旨在标签不足时利用无标签数据提升学习性能。近来,带深度模型的 SSL 在标准基准任务上已被证明成功。然而,它们在真实应用中的各种鲁棒性威胁下仍显脆弱,因为这些基准提供完美的无标签数据,而实际场景中无标签数据可能被污染。许多研究者指出,在利用被污染的无标签数据后,SSL 遭受严重的性能退化问题。因此,迫切需开发能鲁棒处理被污染无标签数据的 SSL 算法。为充分理解鲁棒 SSL,我们开展了一项综述研究。我们首先从机器学习视角厘清鲁棒 SSL 的形式化定义。随后,将鲁棒性威胁分为三类:i) 分布污染,即无标签数据分布与标签数据不匹配;ii) 特征污染,即无标签样本特征遭受对抗攻击;iii) 标签污染,即无标签数据标签分布不平衡。在此统一分类下,我们对关注这些问题的最新工作进行了详尽回顾与讨论。最后,我们提出鲁棒 SSL 中可能有前景的方向,为未来研究提供见解。
引用
@article{arxiv.2202.05975,
title = {Robust Deep Semi-Supervised Learning: A Brief Introduction},
author = {Lan-Zhe Guo and Zhi Zhou and Yu-Feng Li},
journal= {arXiv preprint arXiv:2202.05975},
year = {2022}
}
备注
We will rewrite this paper