公平蒸馏: 在医学影像中从有偏教师模型学习公平性
计算机视觉与模式识别
2024-11-20 v1
摘要
深度学习在图像分类和分割任务中取得了显著成功。然而，公平性 concerns 依然存在，因为模型通常表现出偏见，不成比例地影响由种族、性别或年龄等敏感属性定义的人口群体。现有的偏见缓解技术，包括子组重平衡、对抗训练和域泛化，旨在平衡各人口群体间的准确率，但由于这些相互依赖的目标之间存在冲突，往往无法同时提升整体准确率、特定群体准确率和公平性。我们提出了公平蒸馏（FairDi）方法，这是一种新颖的公平性方法，通过利用有偏的“教师”模型来分解这些目标，每个模型针对特定的人口群体进行优化。然后，这些教师模型指导统一“学生”模型的训练，蒸馏其知识以最大化整体和特定群体的准确率，同时最小化组间差异。在医学影像数据集上的实验表明，与现有方法相比，FairDi 在整体和特定群体准确率以及公平性方面均取得了显著提升。FairDi 适用于各种医学任务，如分类和分割，并为公平的模型性能提供了有效的解决方案。
引用
@article{arxiv.2411.11939,
title = {Fair Distillation: Teaching Fairness from Biased Teachers in Medical Imaging},
author = {Milad Masroor and Tahir Hassan and Yu Tian and Kevin Wells and David Rosewarne and Thanh-Toan Do and Gustavo Carneiro},
journal= {arXiv preprint arXiv:2411.11939},
year = {2024}
}