差分隐私对分类公平性的影响有界
机器学习
2023-09-19 v3 密码学与安全
机器学习
摘要
我们从理论上研究差分隐私对分类中公平性的影响。我们证明，给定一类模型，流行的群体公平性度量关于模型参数是逐点 Lipschitz 连续的。该结果是关于以任意事件（如属于敏感群体）为条件的准确率这一更一般性陈述的推论，其本身可能具有独立意义。我们利用该 Lipschitz 性质证明了一个非渐近界，表明随着样本数增加，私有模型的公平水平趋近于其非私有对应模型。该界还凸显了模型的置信边际对差分隐私差异影响的的重要性。
引用
@article{arxiv.2210.16242,
title = {Differential Privacy has Bounded Impact on Fairness in Classification},
author = {Paul Mangold and Michaël Perrot and Aurélien Bellet and Marc Tommasi},
journal= {arXiv preprint arXiv:2210.16242},
year = {2023}
}