通过对抗属性邻域鲁棒学习实现公平性
机器学习
2022-10-14 v1 人工智能
计算机视觉与模式识别
摘要
改善特权与弱势敏感属性组(例如 {种族,性别})之间的公平性已引起大量关注。为增强模型在不同敏感属性上的一致良好表现,我们提出一个有原则的鲁棒对抗属性邻域(RAAN)损失,以去偏分类头并促进不同敏感属性组间更公平的表示分布。RAAN 的核心思想是通过为每个样本分配一个对抗鲁棒权重,来缓减不同敏感属性组之间偏置表示的差异,该权重定义于对抗属性邻域(即来自不同保护组的样本)的表示之上。为提供高效的优化算法,我们将 RAAN 转化为耦合复合函数之和,并提出了一种随机自适应(Adam 风格)与非自适应(SGD 风格)算法框架 SCRAAN,具有可证明的理论保证。在公平性相关基准数据集上的大量实证研究验证了所提方法的有效性。
引用
@article{arxiv.2210.06630,
title = {Fairness via Adversarial Attribute Neighbourhood Robust Learning},
author = {Qi Qi and Shervin Ardeshir and Yi Xu and Tianbao Yang},
journal= {arXiv preprint arXiv:2210.06630},
year = {2022}
}
备注
25pages, 7 figures