通过方向不可知 EM 公式桥接生成式与判别式噪声标签学习
计算机视觉与模式识别
2025-11-07 v3 机器学习
摘要
尽管噪声标签学习常因简便和快速而采用判别式方法，但生成式建模通过捕捉产生特征、干净标签和 corrupted 观测的联合机制，提供了一种有原则性的替代方案。然而，先前工作通常（i）引入额外的潜变量和繁重的图像生成器，使训练偏向重建；（ii）固定单一数据生成方向（ 或 ），限制了适应性；（iii）假设干净标签上服从均匀先验，忽略了实例级不确定性。我们提出了一种用于生成式噪声标签学习的单阶段、EM 风格的框架，该框架是\emph{方向不可知}的，并避免了显式的图像合成。首先，我们推导了一个单一的期望最大化（EM）目标，其 E 步可特化为任一因果方向而无需改变整体优化。其次，我们用基于有限训练集上的判别式分类器计算的、数据集归一化的判别式代理来替代难以处理的 ，以低得多的代价保留了生成式建模的结构性优势。第三，我们引入了\emph{部分标签监督}（PLS），一种对干净标签的实例特定先验，平衡了覆盖率和不确定性，改进了数据相关的正则化。在标准视觉和自然语言处理（NLP）噪声标签基准上，我们的方法达到了 SOTA 精度、更低的转移矩阵估计误差，且比当前的生成式和判别式基线大幅减少了训练计算量。代码：https://github.com/lfb-1/GNL
引用
@article{arxiv.2308.01184,
title = {Bridging Generative and Discriminative Noisy-Label Learning via Direction-Agnostic EM Formulation},
author = {Fengbei Liu and Chong Wang and Yuanhong Chen and Yuyuan Liu and Gustavo Carneiro},
journal= {arXiv preprint arXiv:2308.01184},
year = {2025}
}