FairSAM：通过锐度感知最小化实现受损数据上的公平分类
机器学习
2025-04-01 v1 人工智能
摘要
在干净数据上训练的图像分类模型在面对测试受损数据时（如冲击噪声、高斯噪声或环境噪声图像）常常会出现显著的性能下降。这种下降不仅影响整体性能，也不成比例地影响各种人口统计子组，引发关键算法偏见问题。虽然像锐度感知最小化(SAM)这样的鲁棒学习算法在提高整体模型鲁棒性和泛化能力方面显示出前景，但在解决不同人口统计子组之间偏差性性能下降方面仍有不足。现有的公平性感知机器学习方法（如公平性约束和重新加权策略）旨在减少性能差异，但几乎无法在遭遇数据损坏的情况下维持不同人口统计子组间的稳健和均等准确性。这揭示了在处理受损数据时鲁棒性与公平性之间固有的张力。为此，我们提出一种新颖的度量标准，专为评估数据损坏下不同子组间的性能下降而设计。此外，我们提出一种新框架FairSAM，将公平性策略整合到SAM中，以在受损条件下实现不同人口统计群体间的性能均等。我们的实验在多个真实数据集和各种预测任务上表明，FairSAM成功地实现了鲁棒性与公平性的协调，为数据损坏存在下的公平且有韧性的图像分类提供了结构化解决方案。
引用
@article{arxiv.2503.22934,
title = {FairSAM: Fair Classification on Corrupted Data Through Sharpness-Aware Minimization},
author = {Yucong Dai and Jie Ji and Xiaolong Ma and Yongkai Wu},
journal= {arXiv preprint arXiv:2503.22934},
year = {2025}
}