Conformal Margin Risk Minimization：面向标签噪声的稳健学习信封框架
机器学习
2026-04-13 v2 机器学习
摘要
大多数处理带噪标签的学习方法需要特权知识，例如噪声转换矩阵、干净子集或预训练特征提取器，这些资源在稳健性最为必要时通常不可得。我们提出了Conformal Margin Risk Minimization (CMRM)，这是一种插即式信封框架，通过添加单个分位数校准的正则化项来提高任何分类损失下的鲁棒性，无需特权知识或训练管道修改。CMRM 测量观察标签与竞争标签之间的置信度边际，并以每个 batch 估计的共轨分位数为阈值，以聚焦高边际样本的训练，同时抑制可能标注错误的样本。我们在边际分布仅需轻微正则性的前提下推导出 CMRM 的学习界限。跨五种基本方法和六个带合成和真实世界噪声的基准，CMRM 在准确率提升（最高可达 +3.39%）、共轨预测集大小缩减（最高可达 -20.44%）且在 0% 噪声情况下不受损，表明 CMRM 捕获了方法无关的不确定性信号，而现有机制未能利用。
引用
@article{arxiv.2604.06468,
title = {Conformal Margin Risk Minimization: An Envelope Framework for Robust Learning under Label Noise},
author = {Yuanjie Shi and Peihong Li and Zijian Zhang and Janardhan Rao Doppa and Yan Yan},
journal= {arXiv preprint arXiv:2604.06468},
year = {2026}
}
备注
Accepted for Publication at the 29th International Conference on Artificial Intelligence and Statistics (AISTATS), 2026