视而不见：从深度神经网络嵌入中显式移除偏差与变异
计算机视觉与模式识别
2018-09-28 v2
摘要
神经网络在图像分类任务中达到了最先进水平。然而，它们可能编码训练数据中存在的虚假变异或偏差。例如，在一个性别不平衡的年龄预测数据集上训练，会导致性别偏差预测（例如，如果训练集中只有老年男性，则错误预测男性更年长）。我们提出两个不同的贡献：1）一种能从网络的特征表示中移除多种变异来源的算法。我们证明该算法可用于从特征表示中移除偏差，从而在极其偏差的数据集上训练网络时提高分类准确率。2）一个包含来自东亚、印度次大陆、撒哈拉以南非洲和西欧的 14000 张个体图像的祖先来源数据库。我们在该数据集上针对若干面部属性分类任务证明，能够从网络特征表示中移除种族偏差。
引用
@article{arxiv.1809.02169,
title = {Turning a Blind Eye: Explicit Removal of Biases and Variation from Deep Neural Network Embeddings},
author = {Mohsan Alvi and Andrew Zisserman and Christoffer Nellaker},
journal= {arXiv preprint arXiv:1809.02169},
year = {2018}
}
备注
Will appear in Workshop on Bias Estimation in Face Analytics, ECCV 2018