兼顾鲁棒与公平：使公平性与鲁棒性相对齐
机器学习
2023-04-04 v1 人工智能
摘要
对抗训练已被证明在提升对抗样本的鲁棒性方面可靠。然而，对抗训练在公平性方面的问题尚未得到恰当研究，且公平性与精度攻击之间的关系仍不清楚。我们能否同时提升关于公平性与精度的鲁棒性？为应对该问题，本文研究了关于这两项指标的对抗训练与对抗攻击问题。我们提出了一种公平性攻击的统一结构，将群体公平性中的常见概念汇聚在一起，并从理论上证明了针对不同概念公平性攻击的等价性。此外，我们展示了公平性攻击与精度攻击的对齐，并从理论上证明关于一项指标的鲁棒性受益于关于另一项指标的鲁棒性。我们的研究提出了一种将关于公平性与精度的对抗训练与攻击相统一的新途径，实验结果表明我们所提方法在关于两项指标的鲁棒性上均取得了更好的性能。
引用
@article{arxiv.2304.00061,
title = {To be Robust and to be Fair: Aligning Fairness with Robustness},
author = {Junyi Chai and Xiaoqian Wang},
journal= {arXiv preprint arXiv:2304.00061},
year = {2023}
}