输出扰动对二值线性分类中公平性的影响
机器学习
2024-02-07 v1 计算机与社会
摘要
我们从理论上研究了差分隐私如何在二值线性分类中与个体公平性及群体公平性相互作用。更确切地说，我们专注于输出扰动机制，这是隐私保护机器学习中的一种经典方法。我们推导了扰动模型相较于原始模型所能达到的个体公平性和群体公平性水平的高概率界。因此，对于个体公平性，我们证明了输出扰动对公平性水平的影响是有界的，但随模型维度的增加而增长。对于群体公平性，我们表明这种影响由所谓的角间隔（angular margins）分布决定，即由非私有模型的符号间隔按每个样本的范数重新缩放后得到。
引用
@article{arxiv.2402.03011,
title = {On the Impact of Output Perturbation on Fairness in Binary Linear Classification},
author = {Vitalii Emelianov and Michaël Perrot},
journal= {arXiv preprint arXiv:2402.03011},
year = {2024}
}