基于校准函数机制的差分隐私公平分类
密码学与安全
2020-03-16 v2 机器学习
摘要
机器学习正日益成为医疗诊断和自动驾驶等广泛应用中进行决策的强大工具。与训练数据相关的隐私问题以及某些决策针对特定属性（如性别、种族）的不公平行为正变得愈发关键。因此，在提供隐私保护的同时构建公平的机器学习模型成为一个具有挑战性的问题。本文通过联合结合函数机制与决策边界公平性，专注于设计具有公平性与差分隐私保证的分类模型。为了强制实现 -差分隐私与公平性，我们利用函数机制，针对不同的属性向目标函数的多项式系数添加不同量的拉普拉斯噪声，同时考虑公平性约束。我们进一步提出了一种效用增强方案，称为松弛函数机制，通过添加高斯噪声代替拉普拉斯噪声，从而实现 -差分隐私。基于松弛函数机制，我们可以设计 -差分隐私公平分类模型。此外，我们的理论分析与实证结果表明，我们的两种方法在保持良好效用的同时实现了公平性与差分隐私，并且优于当前最先进的算法。
引用
@article{arxiv.2001.04958,
title = {Differentially Private and Fair Classification via Calibrated Functional Mechanism},
author = {Jiahao Ding and Xinyue Zhang and Xiaohuan Li and Junyi Wang and Rong Yu and Miao Pan},
journal= {arXiv preprint arXiv:2001.04958},
year = {2020}
}