无超参数偏差缓解的可控特征白化
计算机视觉与模式识别
2025-07-29 v1 机器学习
摘要
随着人工智能应用的快速增长，可信赖的人工智能开发变得重要。然近期研究表明，深度神经网络容易学习数据集中存在的伪相关。为提高可靠性，我们提出一种简单且有效的框架，称为可控特征白化。我们通过协方差矩阵量化目标特征与偏置特征之间的线性相关性，并通过白化模块消除其影响。我们的结果系统性地表明，通过消除输入到最后一个线性分类器之间特征的线性相关性，可显著缓解偏置，同时避免建模不可解的高阶依赖关系。该方法的一个特点是无需正则化项或对抗学习，避免了实际应用中的优化不稳定问题。此外，我们表明 demographic parity 和 equalized odds 等两个公平性准则可通过对 re-weighted 协方差矩阵进行白化有效处理。因此，我们的方法通过调整权重系数来控制算法的实用性与公平性之间的权衡。最后，我们在四个基准数据集上验证了该方法的优于现有方法的表现：Corrupted CIFAR-10、Biased FFHQ、WaterBirds 和 Celeb-A。
引用
@article{arxiv.2507.20284,
title = {Controllable Feature Whitening for Hyperparameter-Free Bias Mitigation},
author = {Yooshin Cho and Hanbyel Cho and Janghyeon Lee and HyeongGwon Hong and Jaesung Ahn and Junmo Kim},
journal= {arXiv preprint arXiv:2507.20284},
year = {2025}
}
备注
Accepted to ICCV 2025 (Poster)