利用对抗样本进行偏差缓解与精度提升
计算机视觉与模式识别
2024-07-01 v2
摘要
我们提出了一种新颖的方法，通过利用对抗样本和精细调校来缓解计算机视觉模型中的偏差。虽然已用于分析和解决深度神经网络模型中的偏差，但对抗样本往往来自带有偏差的生成模型，可能引入额外的偏差或虚假关联。为此，我们提出使用对抗图像（即欺骗深度神经网络但不欺骗人类的图像）作为公平模型训练的对抗样本。我们的做法结合课程学习框架和精细的对抗损失，对模型进行精细调校。通过将对抗图像纳入训练数据，我们旨在防止偏差在整个流程中传播。我们通过定性和定量评估验证了该方法，证明其在缓解偏差和提高精度方面优于现有方法。定性地，我们的结果表明，训练后的模型决策更少依赖于敏感属性，模型能够更好地分离敏感属性与分类变量之间的关系。
引用
@article{arxiv.2404.11819,
title = {Utilizing Adversarial Examples for Bias Mitigation and Accuracy Enhancement},
author = {Pushkar Shukla and Dhruv Srikanth and Lee Cohen and Matthew Turk},
journal= {arXiv preprint arXiv:2404.11819},
year = {2024}
}