（本地）差分隐私对公平性无差异影响
机器学习
2023-08-02 v2 密码学与安全
摘要
近年来，本地差分隐私（LDP）作为一种鲁棒的隐私保护方法，已在现实应用中被广泛采用。借助LDP，用户可在设备端扰动其数据后再发送出去用于分析。然而，随着跨行业收集多种敏感信息日益普遍，在LDP下仅收集单一敏感属性可能并不足够。数据中的相关属性仍可能导致对敏感属性的推断。本文实证研究了在LDP下收集多个敏感属性对公平性的影响。我们提出了一种考虑敏感属性不同域大小的新型隐私预算分配方案。在实验中，这相较于最先进方案通常带来了更好的隐私-效用-公平性权衡。我们的结果表明，LDP在学习问题中带来了轻微改善的公平性，且未显著影响模型性能。我们使用多个群体公平性度量和七种最先进LDP协议，对三个基准数据集进行了广泛实验。总体而言，本研究挑战了差分隐私必然导致机器学习中公平性恶化的普遍看法。
引用
@article{arxiv.2304.12845,
title = {(Local) Differential Privacy has NO Disparate Impact on Fairness},
author = {Héber H. Arcolezi and Karima Makhlouf and Catuscia Palamidessi},
journal= {arXiv preprint arXiv:2304.12845},
year = {2023}
}
备注
Best paper award at DBSec'23. Version of record at https://doi.org/10.1007/978-3-031-37586-6_1