特征与标签嵌入空间在解决图像分类器偏差中的作用
计算机视觉与模式识别
2021-10-28 v1
摘要
本文致力于解决图像分类器偏差问题，重点关注特征与标签嵌入空间。已有工作表明，来自受保护属性（如年龄、性别或肤色）的虚假相关性会导致不利决策。为平衡潜在危害，识别和缓解图像分类器偏差的需求日益增长。首先，我们在特征空间中识别出一个偏差方向。我们计算每个类别下各受保护属性值的类原型，并揭示出一个捕获偏差最大方差的已有子空间。其次，我们通过将图像输入映射到标签嵌入空间来缓解偏差。受保护属性的每个值拥有其独立的投影头，其中类别通过潜在向量表示而非通用的独热编码进行嵌入。训练完成后，我们进一步在特征空间中通过移除偏差方向来减弱偏差影响。在偏置图像数据集上的多类、多标签及二分类评估表明，同时处理特征与标签嵌入空间在提升分类器预测公平性同时保持分类性能方面是有效的。
引用
@article{arxiv.2110.14336,
title = {Feature and Label Embedding Spaces Matter in Addressing Image Classifier Bias},
author = {William Thong and Cees G. M. Snoek},
journal= {arXiv preprint arXiv:2110.14336},
year = {2021}
}
备注
Accepted at British Machine Vision Conference (BMVC) 2021