一种用于增强类学习的广义无偏风险估计器
机器学习
2023-06-13 v1 计算机视觉与模式识别
摘要
与训练数据中可观察到所有类的标准学习范式不同，增强类学习（LAC）处理的是训练数据中未观测到的增强类可能在测试阶段出现的问题。先前的研究表明，在给定无标签数据的情况下，可以推导出一个无偏风险估计器（URE），该估计器可被最小化以用于 LAC，并具有理论保证。然而，该 URE 仅局限于用于多类分类的一类对余类（one-versus-rest）损失函数的特定类型，使得在实践中损失需随数据集改变时不够灵活。本文中，我们提出了一种广义 URE，在给定 LAC 的无标签数据时，可配备任意损失函数同时保持理论保证。为缓解先前研究普遍遇到的经验风险为负的问题，我们进一步提出了一种新颖的风险惩罚正则化项。实验证明了我们所提方法的有效性。
引用
@article{arxiv.2306.06894,
title = {A Generalized Unbiased Risk Estimator for Learning with Augmented Classes},
author = {Senlin Shu and Shuo He and Haobo Wang and Hongxin Wei and Tao Xiang and Lei Feng},
journal= {arXiv preprint arXiv:2306.06894},
year = {2023}
}
备注
Accepted by AAAI 2023, 17 pages, 4 tables, 4 figures