通过代理特征干预实现公平视觉识别
机器学习
2022-11-03 v1 计算机视觉与模式识别
计算机与社会
摘要
深度学习模型常学会做出依赖性别、种族等敏感社会属性的预测，这带来显著的公平风险，尤其在招聘、银行与刑事司法等社会应用中。现有工作通过最小化模型中关于社会属性的信息以去偏来解决此问题。然而，目标任务与社会属性的高度相关性使得去偏与目标任务精度不相容。回顾模型偏置源于关于偏置属性的特征（即偏置特征）的学习有助于目标任务优化，我们探究以下研究问题：我们能否利用代理特征替代偏置特征在目标任务优化中去偏的作用？为此，我们提出“代理去偏”（Proxy Debiasing），首先将对目标任务偏置信息的学习从偏置特征迁移到人工代理特征，随后在推理中采用因果干预消除代理特征。“代理去偏”的核心思想是设计可控代理特征，一方面在训练阶段替代偏置特征贡献于目标任务，另一方面在推理阶段易于通过干预移除。这保证了偏置特征的消除而不影响目标信息，从而解决先前去偏方案中的公平-精度悖论。我们将“代理去偏”应用于若干基准数据集，在精度与公平性上均取得优于最先进去偏方法的显著提升。
引用
@article{arxiv.2211.01253,
title = {Fair Visual Recognition via Intervention with Proxy Features},
author = {Yi Zhang and Jitao Sang and Junyang Wang},
journal= {arXiv preprint arXiv:2211.01253},
year = {2022}
}