压缩模型解压出种族偏见：量化模型在公平人脸识别中遗忘了什么
计算机视觉与模式识别
2023-08-24 v1
摘要
随着人脸识别深度学习模型复杂度的不断增长，这些系统难以在现实中部署。研究者有两种选择：1) 使用更小的模型；2) 压缩当前模型。由于使用更小的模型可能导致令人担忧的偏见，压缩方法变得更具意义。然而，压缩也可能造成最终模型偏见的加剧。我们研究了当使用合成数据与真实数据时，一种最先进（State-of-the-Art）量化方法在整体性能、各 ethnicity 子群性能以及种族偏见方面的表现。该分析提供了关于使用合成数据进行量化的潜在收益的更多细节，例如，在多数测试场景下偏见的减少。我们测试了五种不同的架构和三个不同的训练数据集。这些模型在第四个数据集上进行了评估，该数据集用于推断并比较人脸识别模型在不同 ethnicity 上的性能。
引用
@article{arxiv.2308.11840,
title = {Compressed Models Decompress Race Biases: What Quantized Models Forget for Fair Face Recognition},
author = {Pedro C. Neto and Eduarda Caldeira and Jaime S. Cardoso and Ana F. Sequeira},
journal= {arXiv preprint arXiv:2308.11840},
year = {2023}
}
备注
Accepted for Oral at BIOSIG 2023