从观测数据学习反事实公平性
机器学习
2023-07-18 v1 计算机与社会
机器学习
摘要
公平感知机器学习在诸多领域引起大量关注，如网络应用中的在线广告、个性化推荐与社交媒体分析。公平感知机器学习旨在消除学习模型针对由特定受保护（敏感）属性（如种族、性别与年龄）描述的某些子群的偏见。在众多现有公平性概念中，反事实公平性是从因果视角定义的一种流行概念。它通过比较每个个体在原世界与敏感属性被修改后的反事实世界中的预测来度量预测器的公平性。现有方法实现反事实公平性的前提是具备数据因果模型的先验人类知识。然而，在真实场景中，底层因果模型通常未知，且获取此类人类知识可能极为困难。在这些场景下，直接信任来自未知可靠性信息源甚至因果发现方法所得的因果模型是危险的，因为不正确的因果模型会随之给预测器带来偏见并导致不公平预测。本工作中，我们通过在无给定因果模型下从观测数据实现反事实公平预测的问题，提出一种新颖框架CLAIRE。具体而言，在特定一般假设下，CLAIRE通过基于反事实数据增强与不变惩罚的表示学习框架有效缓解来自敏感属性的偏见。在合成与真实世界数据集上的实验验证了CLAIRE在反事实公平性与预测性能上的优越性。
引用
@article{arxiv.2307.08232,
title = {Learning for Counterfactual Fairness from Observational Data},
author = {Jing Ma and Ruocheng Guo and Aidong Zhang and Jundong Li},
journal= {arXiv preprint arXiv:2307.08232},
year = {2023}
}