FairGRAPE:面向人脸属性分类的公平性感知梯度剪枝方法
计算机视觉与模式识别
2022-07-25 v1 人工智能
机器学习
摘要
现有的剪枝技术保留了深度神经网络做出正确预测的整体能力,但也可能在压缩过程中放大隐藏的偏差。我们提出了一种新颖的剪枝方法,即公平性感知梯度剪枝方法(FairGRAPE),其最小化了剪枝对不同子群体的不成比例影响。我们的方法计算每个模型权重在各组上的重要性,并选择一组权重,使组间总重要性的相对关系在剪枝中得以保持。所提出的方法随后剪除重要性值较小的网络边,并通过更新重要性值重复该过程。我们在 FairFace、UTKFace、CelebA 和 ImageNet 四个不同数据集上展示了我们方法在人脸属性分类任务上的有效性,与最先进的剪枝算法相比,我们的方法将性能退化中的差异降低了至多 90%。我们的方法在高压缩率(99%)设置下效果尤为显著。实验中使用的代码和数据集可在 https://github.com/Bernardo1998/FairGRAPE 获取。
引用
@article{arxiv.2207.10888,
title = {FairGRAPE: Fairness-aware GRAdient Pruning mEthod for Face Attribute Classification},
author = {Xiaofeng Lin and Seungbae Kim and Jungseock Joo},
journal= {arXiv preprint arXiv:2207.10888},
year = {2022}
}
备注
To appear in ECCV 2022