基于 $f$-散度和 $\alpha$-Renyi 散度的鲁棒半监督学习
机器学习
2024-05-02 v1 信息论
math.IT
机器学习
摘要
本文研究了适用于半监督学习中自训练方法的各种经验风险函数和正则化方法。这些方法灵感来自各种散度度量，如 -散度和 -Renyi 散度。灵感来自于散度的理论基础，即 -散度和 -Renyi 散度，我们也为增强对经验风险函数和正则化技术的理解提供了有价值的见解。在半监督学习中有效的自训练方法中，伪标签和熵最小化技术，自训练过程在真实标签和伪标签之间存在内在不匹配（噪声伪标签），而我们一些经验风险函数对于噪声伪标签具有鲁棒性。在某些条件下，我们的经验风险函数与传统自训练方法相比表现更好。
引用
@article{arxiv.2405.00454,
title = {Robust Semi-supervised Learning via $f$-Divergence and $\alpha$-R\'enyi Divergence},
author = {Gholamali Aminian and Amirhossien Bagheri and Mahyar JafariNodeh and Radmehr Karimian and Mohammad-Hossein Yassaee},
journal= {arXiv preprint arXiv:2405.00454},
year = {2024}
}
备注
Accepted in ISIT 2024