利用去偏交替网络发现并缓解未知偏差
计算机视觉与模式识别
2022-09-09 v2 计算机与社会
机器学习
摘要
深度图像分类器被发现会从数据集中学习偏差。为缓解偏差，多数先前方法需要受保护属性（如年龄、肤色）的标签作为全监督，这有两个局限：1) 当标签不可用时不可行；2) 它们无法缓解未知偏差——即人类未曾预设的偏差。为解决这些问题，我们提出去偏交替网络（DebiAN），其包含两个网络——发现器与分类器。通过交替训练，发现器试图在无任何偏差标注的情况下找出分类器的多种未知偏差，而分类器旨在遗忘发现器所识别的偏差。先前工作以单一偏差评估去偏结果，我们创建了 Multi-Color MNIST 数据集以更好地在多偏差设定下基准测试多种偏差的缓解，这不仅揭示了先前方法的问题，也展示了 DebiAN 在同时识别与缓解多种偏差上的优势。我们进一步在真实世界数据集上进行了大量实验，表明 DebiAN 中的发现器能识别人类可能难以发现的未知偏差。在去偏方面，DebiAN 实现了强劲的偏差缓解性能。
引用
@article{arxiv.2207.10077,
title = {Discover and Mitigate Unknown Biases with Debiasing Alternate Networks},
author = {Zhiheng Li and Anthony Hoogs and Chenliang Xu},
journal= {arXiv preprint arXiv:2207.10077},
year = {2022}
}
备注
ECCV 2022