用于更好伪标签的能量模型:利用1-Laplacian图能量改进半监督分类
机器学习
2021-10-27 v4 机器学习
摘要
半监督分类是一个备受关注的领域,因为在现实场景中,获取标签成本高昂、耗时且可能需要专家知识。这推动了半监督技术的快速发展,其性能可与监督方法媲美或优于后者。当前半监督技术面临的一个主要挑战是如何更好地处理网络校准和确认偏差问题以提升性能。在本工作中,我们认为能量模型是应对此类问题的有效替代方案。基于此动机,我们提出了一种用于半监督分类的混合框架,称为CREPE模型(用于伪标签的1-Laplacian图能量,1-LaplaCian gRaph Energy for Pseudo-labEls)。首先,我们基于归一化图1-Laplacian的非光滑范数引入了一种新的能量模型。我们的泛函强制产生足够平滑的解,并加强了有标签与无标签数据之间的内在联系。其次,我们对所提方案进行了理论分析,并表明解轨迹确实收敛到非恒定的稳态点。第三,我们推导了能量模型用于伪标签生成的联系。我们表明,我们的能量模型产生的伪标签比深度网络直接生成的更有意义。我们使用六个自然图像和医学图像基准数据集,通过数值和可视化实验广泛评估了我们的框架。我们证明我们的技术在半监督分类上取得了最先进的成果。
引用
@article{arxiv.1906.08635,
title = {Energy Models for Better Pseudo-Labels: Improving Semi-Supervised Classification with the 1-Laplacian Graph Energy},
author = {Angelica I. Aviles-Rivero and Nicolas Papadakis and Ruoteng Li and Philip Sellars and Samar M Alsaleh and Robby T Tan and Carola-Bibiane Schönlieb},
journal= {arXiv preprint arXiv:1906.08635},
year = {2021}
}