迈向精度-公平悖论：基于对抗样本的数据增强用于视觉去偏
计算机视觉与模式识别
2020-08-14 v2 机器学习
摘要
机器学习公平性关注在解决目标任务时针对某些受保护或敏感人群组的偏见。本文研究图像分类任务背景下的去偏问题。我们对人脸属性识别的数据分析表明：（1）模型偏见的来源在于训练数据分布不平衡；（2）对抗样本在平衡数据分布方面的潜力。因此我们受此启发，采用对抗样本来增强训练数据以进行视觉去偏。具体而言，为确保对抗泛化以及跨任务可迁移性，我们提出将目标任务分类器训练、偏见任务分类器训练和对抗样本生成的操作相耦合。所生成的对抗样本通过在线方式平衡关于偏见变量的分布，从而对目标任务训练数据集进行补充。在模拟和真实世界去偏实验上的结果证明了所提方案在同时提升模型精度与公平性方面的有效性。关于少样本学习的初步实验进一步显示了基于对抗攻击的伪样本生成作为弥补训练数据缺乏的替代方案的潜力。
引用
@article{arxiv.2007.13632,
title = {Towards Accuracy-Fairness Paradox: Adversarial Example-based Data Augmentation for Visual Debiasing},
author = {Yi Zhang and Jitao Sang},
journal= {arXiv preprint arXiv:2007.13632},
year = {2020}
}