FairPrune：通过剪枝实现皮肤疾病诊断中的公平性
图像与视频处理
2022-03-07 v1 计算机视觉与模式识别
机器学习
摘要
许多工作表明，基于深度学习的医学图像分类模型可能对种族、性别和年龄等某些人口统计属性表现出偏见。现有的偏见缓解方法主要侧重于学习去偏模型，这不一定能保证所有敏感信息都被移除，并且通常会在特权组和非特权组上均造成相当大的准确率下降。为解决此问题，我们提出了一种通过剪枝实现公平性的方法 FairPrune。传统上，剪枝用于减小模型规模以实现高效推理。然而，我们表明剪枝也可以成为实现公平性的有力工具。我们的观察是，在剪枝过程中，模型中的每个参数对不同组准确率的的重要性不同。基于这种重要性差异对参数进行剪枝，我们可以减小特权组与非特权组之间的准确率差异，从而在不大幅降低准确率的情况下改善公平性。为此，我们利用预训练模型参数的二阶导数来量化每个参数相对于各组模型准确率的重要性。在两个皮肤病变诊断数据集上针对多个敏感属性的实验表明，我们的方法能够在保持两组平均准确率尽可能高的同时大幅改善公平性。
引用
@article{arxiv.2203.02110,
title = {FairPrune: Achieving Fairness Through Pruning for Dermatological Disease Diagnosis},
author = {Yawen Wu and Dewen Zeng and Xiaowei Xu and Yiyu Shi and Jingtong Hu},
journal= {arXiv preprint arXiv:2203.02110},
year = {2022}
}