MaxMatch：基于最坏情况一致性的半监督学习
机器学习
2022-09-27 v1 计算机视觉与模式识别
机器学习
摘要
近年来，通过半监督学习（SSL）利用无标签数据以克服低效监督问题取得了巨大进展。大多数最先进的模型基于这样一种思想：追求模型对无标签数据在输入噪声下的预测一致性，称为一致性正则化。然而，缺乏对其成功原因的理论洞察。为弥合理论与实际结果之间的差距，本文提出一种用于 SSL 的最坏情况一致性正则化技术。具体而言，我们首先给出 SSL 的泛化界，由分别在有标签与无标签训练数据上观测到的经验损失项组成。受该界启发，我们推导出一个 SSL 目标，最小化原始无标签样本与其多个增强变体之间的最大不一致性。随后我们提供一种简单而有效的算法来求解所提出的极小极大问题，并从理论上证明它收敛到驻点。在五个流行基准数据集上的实验验证了我们提出方法的有效性。
引用
@article{arxiv.2209.12611,
title = {MaxMatch: Semi-Supervised Learning with Worst-Case Consistency},
author = {Yangbangyan Jiang and Xiaodan Li and Yuefeng Chen and Yuan He and Qianqian Xu and Zhiyong Yang and Xiaochun Cao and Qingming Huang},
journal= {arXiv preprint arXiv:2209.12611},
year = {2022}
}
备注
Accepted to IEEE TPAMI