因果公平度量：连接因果性、个体公平与对抗鲁棒性
机器学习
2024-02-07 v2 计算机与社会
摘要
尽管负责任人工智能亟需综合考量诸多因素，但鲁棒性、公平性与因果性等因素常被孤立研究。用于识别模型漏洞的对抗扰动，以及旨在使相似个体获得公平对待（尽管初始存在差异）的个体公平性，二者均依赖于度量来生成可比较的输入数据实例。先前定义此类联合度量的尝试往往缺乏对数据或结构因果模型的通用假设，且无法反映反事实邻近性。为此，本文引入一种基于涵盖敏感属性与受保护因果扰动的因果结构所构建的因果公平度量。为提升该度量的实用性，我们提出将度量学习作为在缺乏结构因果模型时估计并部署该度量于实际问题的方法。我们还展示了这一新度量在分类器中的应用。对真实与合成数据集的实证评估表明，我们所提度量在构建兼具公平性、对抗扰动抵御能力且能细致理解因果关系的准确分类器方面是有效的。
引用
@article{arxiv.2310.19391,
title = {Causal Fair Metric: Bridging Causality, Individual Fairness, and Adversarial Robustness},
author = {Ahmad-Reza Ehyaei and Golnoosh Farnadi and Samira Samadi},
journal= {arXiv preprint arXiv:2310.19391},
year = {2024}
}