迈向公平感知的对抗学习
计算机视觉与模式识别
2024-03-29 v2
摘要
尽管对抗训练（AT）已被证明能有效提升模型的鲁棒性，但最近揭示的鲁棒性公平性问题尚未得到妥善解决，即不同类别的鲁棒准确率存在显著差异。在本文中，我们不再统一评估模型的平均类别性能，而是通过考虑各类别中最坏情况分布，深入探讨鲁棒公平性问题。我们提出了一种名为公平感知对抗学习（FAAL）的新颖学习范式。作为传统 AT 的推广，我们将对抗训练问题重新定义为一个 min-max-max 框架，以确保训练模型兼具鲁棒性和公平性。具体而言，利用分布鲁棒优化，我们的方法旨在寻找不同类别间的最坏分布，且保证该解以高概率获得性能上界。特别地，FAAL 仅需两个 epoch 即可将不公平的鲁棒模型微调为公平模型，同时不损害整体的干净准确率和鲁棒准确率。在各种图像数据集上的大量实验验证了所提出的 FAAL 相较于其他最先进方法的优越性能和效率。
引用
@article{arxiv.2402.17729,
title = {Towards Fairness-Aware Adversarial Learning},
author = {Yanghao Zhang and Tianle Zhang and Ronghui Mu and Xiaowei Huang and Wenjie Ruan},
journal= {arXiv preprint arXiv:2402.17729},
year = {2024}
}
备注
This work will appear in the CVPR 2024 conference proceedings