对称标签噪声下的代价敏感学习

在二分类框架下，我们关注于在均匀/对称标签噪声存在时进行代价敏感的标签预测。我们首先观察到 $0$-$1$ 贝叶斯分类器在代价敏感设定下并非（均匀）噪声鲁棒的。为规避这一不可能结果，我们提出两种方案；与现有方法不同，我们的方案不需要噪声率。第一种使用 $\alpha$-加权 $\gamma$-非均匀间隔平方损失函数 $l_{\alpha, usq}$，其可处理因领域需求（使用用户给定 $\alpha$）或类不平衡（通过调节 $\gamma$）或二者兼有的代价敏感性。然而，我们观察到 $l_{\alpha, usq}$ 贝叶斯分类器同样不是代价敏感且噪声鲁棒的。我们证明，该损失函数在线性分类器类上的正则化 ERM yielding 一个代价敏感均匀噪声鲁棒分类器，作为线性方程组的解。我们也提供了该分类器的性能界。我们提出的第二种方案是一种基于重采样的方案，其利用均匀噪声模型的特殊结构并使用类内概率 $\eta$ 估计。我们在一些具有类不平衡的 UCI 数据集上的计算实验表明，我们两种方案的分类器与现有方法相当，且在某些情形下就准确率（Accuracy）与算术均值（Arithmetic Mean）而言更优，而无需使用/调节噪声率。我们也考虑其他代价敏感性能指标，即 F 度量与加权代价（Weighted Cost）用于评估。由于我们的重采样方案需要 $\eta$ 的估计，我们针对半打评估准则在合成数据集上对各种 $\eta$ 估计方法进行了详细比较研究。此外，我们通过不同合成数据实验提供了对代价参数 $\alpha$ 与 $\gamma$ 释义的理解。