异构数据空间中面向个体公平与鲁棒性的因果对抗扰动
机器学习
2023-08-21 v1 计算机与社会
摘要
随着负责任 AI 在机器学习算法中日益重要，公平性、对抗鲁棒性和因果性等性质近年来受到相当关注。然而，尽管它们各自重要，同时探索并整合这些性质仍存在关键空白。本文提出一种新方法，考察异构数据空间中个体公平性、对抗鲁棒性与结构因果模型之间的关系，尤其在处理离散敏感属性时。我们利用因果结构模型与敏感属性构建公平度量，并应用于衡量个体间的语义相似性。通过引入一种新颖的因果对抗扰动并施以对抗训练，我们创建了一种新正则化项，将分类器中的个体公平性、因果性与鲁棒性结合起来。我们的方法在真实与合成数据集上评估，证明了其在实现兼具公平性、对抗鲁棒性与因果意识的准确分类器上的有效性。
引用
@article{arxiv.2308.08938,
title = {Causal Adversarial Perturbations for Individual Fairness and Robustness in Heterogeneous Data Spaces},
author = {Ahmad-Reza Ehyaei and Kiarash Mohammadi and Amir-Hossein Karimi and Samira Samadi and Golnoosh Farnadi},
journal= {arXiv preprint arXiv:2308.08938},
year = {2023}
}