多维本地差分隐私对公平性的影响研究
机器学习
2024-02-22 v3 密码学与安全
计算机与社会
摘要
自动化决策系统越来越多地用于对人们生活做出重大决策。由于被操纵数据及由此产生的决策的敏感性，需要解决若干伦理问题才能恰当使用此类技术，尤其是公平性和隐私。与以往专注于单一敏感属性的中心化差分隐私（DP）或本地差分隐私（LDP）的工作不同，本文考察了在存在多个敏感属性（即多维数据）的情况下，LDP对公平性的影响。在合成数据集和基准数据集上的详细实证分析揭示了非常相关的观察结果。具体而言，（1）多维LDP是减少差异的有效方法；（2）LDP的多维方法（独立与联合）仅在低隐私保障下才显得重要；（3）结果Y的分布对哪个群体对混淆更敏感有重要影响。最后，我们以建议的形式总结了我们的发现，以指导从业者在机器学习应用中采用有效的隐私保护实践，同时保持公平性和效用。
引用
@article{arxiv.2312.04404,
title = {On the Impact of Multi-dimensional Local Differential Privacy on Fairness},
author = {Karima Makhlouf and Heber H. Arcolezi and Sami Zhioua and Ghassen Ben Brahim and Catuscia Palamidessi},
journal= {arXiv preprint arXiv:2312.04404},
year = {2024}
}