从因果反事实视角评估与缓解图像分类器偏差
计算机视觉与模式识别
2022-01-07 v4 机器学习
摘要
输入的反事实样本——改变特定特征而保留其他特征的扰动——已被证明可用于评估机器学习模型（例如针对特定人口群体的）偏差。然而，由于图像各种特征间潜在的因果结构，为图像生成反事实样本并非易事。为具有意义，生成的扰动需满足因果模型所隐含的约束。我们提出一种通过将结构因果模型（SCM）融入改进版对抗学习推断（ALI）来生成反事实样本的方法，该方法依据图像属性间的因果关系生成反事实样本。基于生成的反事实样本，我们展示了如何解释预训练的机器学习分类器、评估其偏差，并使用反事实正则化器缓解偏差。在Morpho-MNIST数据集上，我们的方法生成的反事实样本质量可与基于SCM的先前工作（DeepSCM）相媲美；而在更复杂的CelebA数据集上，我们的方法在生成高质量有效反事实样本方面优于DeepSCM。此外，在人类评估实验中，生成的反事实样本与重建图像难以区分，我们随后利用它们评估了在CelebA数据上训练的标准分类器的公平性。我们表明该分类器在肤色和发色方面存在偏差，并展示了反事实正则化如何消除这些偏差。
引用
@article{arxiv.2009.08270,
title = {Evaluating and Mitigating Bias in Image Classifiers: A Causal Perspective Using Counterfactuals},
author = {Saloni Dash and Vineeth N Balasubramanian and Amit Sharma},
journal= {arXiv preprint arXiv:2009.08270},
year = {2022}
}
备注
Accepted for Publication at WACV 2022