可能近似 Shapley 公平性及其在机器学习中的应用
机器学习
2022-12-02 v1 计算机与社会
摘要
Shapley 值（SV）因其满足公平性要求而被应用于机器学习的多种场景，包括数据估值、智能体估值与特征归因。然而，由于精确 SV 在实践中难以计算，转而采用 SV 估计值。这一近似步骤引出了一个关键问题：SV 估计值是否保留了精确 SV 的公平性保证？我们观察到精确 SV 的公平性保证对 SV 估计值而言过于严苛。因此，我们将 Shapley 公平性推广为可能近似 Shapley 公平性，并提出保真度分数——一种衡量 SV 估计值变异程度的指标，用以确定公平性保证成立的概率。我们最后的理论贡献是一种新颖的贪心主动估计（GAE）算法，该算法将最大化最低保真度分数，并比事实上的蒙特卡洛估计获得更好的公平性保证。我们使用真实世界数据集在多种 ML 场景中实证验证，GAE 在保障公平性方面优于若干现有方法，同时在估计精度上保持竞争力。
引用
@article{arxiv.2212.00630,
title = {Probably Approximate Shapley Fairness with Applications in Machine Learning},
author = {Zijian Zhou and Xinyi Xu and Rachael Hwee Ling Sim and Chuan Sheng Foo and Kian Hsiang Low},
journal= {arXiv preprint arXiv:2212.00630},
year = {2022}
}
备注
37th AAAI Conference on Artificial Intelligence (AAAI 2023)