偏见感知的机器遗忘：通过可控遗忘实现更公平的视觉模型
计算机视觉与模式识别
2025-09-10 v1 人工智能
摘要
深度神经网络常常依赖训练数据中的虚假相关性，导致在医学和自动驾驶等安全关键领域产生有偏见或不公平的预测。虽然传统的偏见缓解通常需要从头开始重新训练或重新设计数据管道，但机器遗忘的最新进展为事后模型修正提供了一种有前景的替代方案。在这项工作中，我们研究了“偏见感知的机器遗忘”，这是一种选择性地移除有偏见的样本或特征表示以减轻视觉模型中多种形式偏见的范式。基于隐私保护的遗忘技术，我们评估了包括梯度上升、LoRA 和师生蒸馏在内的各种策略。通过对三个基准数据集 CUB-200-2011（姿态偏见）、CIFAR-10（合成补丁偏见）和 CelebA（微笑检测中的性别偏见）的实证分析，我们证明事后遗忘可以显著减少子群体差异，在 CUB-200 上人口统计均等性改善高达 94.86%，在 CIFAR-10 上改善 30.28%，在 CelebA 上改善 97.37%。这些增益是在精度损失极小的情况下实现的，并且所用方法在三个设置下的效用、公平性、质量和隐私联合评估中平均得分为 0.62。我们的发现确立了机器遗忘作为一个实用框架，用于增强已部署视觉系统的公平性，而无需进行完整的重新训练。
引用
@article{arxiv.2509.07456,
title = {Bias-Aware Machine Unlearning: Towards Fairer Vision Models via Controllable Forgetting},
author = {Sai Siddhartha Chary Aylapuram and Veeraraju Elluru and Shivang Agarwal},
journal= {arXiv preprint arXiv:2509.07456},
year = {2025}
}
备注
Accepted for publication at ICCV 2025 UnMe workshop