不完美监督下的非对称误差控制:一种标签噪声调整的奈曼-皮尔逊 umbrella 算法
机器学习
2021-12-02 v1 机器学习
摘要
数据中的标签噪声长期以来一直是监督学习应用中的重要问题,因为它影响许多广泛使用分类方法的有效性。近来,医疗诊断与网络安全等重要现实应用重新引发了人们对奈曼-皮尔逊(NP)分类范式的兴趣,该范式在将更严重的一类错误(如第一类错误)约束在偏好水平下的同时最小化另一类错误(如第二类错误)。然而,关于标签噪声下NP范式的研究甚少。颇为令人意外的是,即便常见NP分类器在训练阶段忽略标签噪声,仍能以高概率控制第一类错误。但其代价是第一类错误过度保守,从而功率(即1减第二类错误)显著下降。假设领域专家给出污染程度的下界,我们提出首个有理论支撑的算法,使大多数最先进分类方法适配NP范式下的训练标签噪声。所得分类器不仅在期望水平下以高概率控制第一类错误,还提升了功率。
引用
@article{arxiv.2112.00314,
title = {Asymmetric error control under imperfect supervision: a label-noise-adjusted Neyman-Pearson umbrella algorithm},
author = {Shunan Yao and Bradley Rava and Xin Tong and Gareth James},
journal= {arXiv preprint arXiv:2112.00314},
year = {2021}
}