利用有偏委员会学习去偏分类器
机器学习
2023-05-02 v5 计算机视觉与模式识别
摘要
神经网络易于偏向训练数据主体部分所展现的类别与潜在属性间的伪相关，这破坏了其泛化能力。我们提出一种无需伪属性标签训练去偏分类器的新方法。核心思想是采用一组分类器作为辅助模块，识别无伪相关的数据（即偏差冲突数据），并在训练主分类器时赋予其较大权重。该委员会以自助集成方式学习，使其多数分类器既有偏又具多样性，并据此有意无法预测偏差冲突数据的类别。委员会内部对预测难度的一致性因而为识别和加权偏差冲突数据提供了可靠线索。此外，委员会也通过主分类器迁移的知识进行训练，从而随主分类器逐渐去偏，并在训练进程中更关注更难的数据。在五个真实数据集上，我们的方法优于同样无伪属性标签的已有方法，甚至偶尔超越依赖偏差标签的方法。
引用
@article{arxiv.2206.10843,
title = {Learning Debiased Classifier with Biased Committee},
author = {Nayeong Kim and Sehyun Hwang and Sungsoo Ahn and Jaesik Park and Suha Kwak},
journal= {arXiv preprint arXiv:2206.10843},
year = {2023}
}
备注
Conference on Neural Information Processing Systems (NeurIPS), New Orleans, 2022