用于检测非预期偏见的图像反事实敏感性分析

人脸分析模型正日益应用于对人们生活有严重影响的应用中,从身份认证到监控追踪不一而足。因此,开发能够揭示人脸分类器中非预期偏见的技术以引导人脸分析技术的伦理使用至关重要。本文提出一种称为\textit{图像反事实敏感性分析}的框架,并将其作为概念验证用于分析一个在名人脸上训练的微笑属性分类器。该框架利用反事实来考察若某一人脸特征发生微小改变,分类器的预测会如何变化。我们借助生成对抗网络的最新进展构建了一个逼真的人脸图像生成模型,可对特定图像特征进行可控操控。随后我们引入一组度量指标,用于衡量操控某特定属性对训练后分类器输出的影响。通过实验,我们发现了若干影响微笑分类器预测的不同变异因素。该概念验证展示了利用生成模型进行偏见与公平性细粒度分析的潜在途径。