发现图像分类器的未知偏置属性

近期工作发现 AI 算法从数据中学习偏置。因此，识别 AI 算法中的偏置紧迫且关键。然而，以往的偏置识别流程过度依赖人类专家猜测潜在偏置（如性别），可能忽略人类未意识到的其他潜在偏置。为帮助人类专家更好地发现 AI 算法的偏置，我们在本工作中研究一个新问题——对于一个预测输入图像目标属性的分类器，发现其未知偏置属性。为解决这一挑战性问题，我们使用生成模型潜空间中的超平面来表示图像属性；从而将原问题转化为优化超平面的法向量与偏移。我们在此框架内提出一种新颖的全变分损失作为目标函数，以及一种新的正交化惩罚作为约束。后者防止了所发现的偏置属性与目标属性或某一已知偏置属性相同的平凡解。在解耦数据集和真实世界数据集上的大量实验表明，我们的方法能够发现偏置属性，并在目标属性方面实现更好的解耦。此外，定性结果显示我们的方法能为各种物体和场景分类器发现不易察觉的偏置属性，证明了我们的方法在检测不同图像领域偏置属性上的泛化能力。代码见 https://git.io/J3kMh。