隐私促公平：基于局部差分隐私的公平表示学习信息混淆方法
机器学习
2024-02-19 v1 密码学与安全
信息论
math.IT
摘要
随着机器学习 (ML) 在以人为本的应用中日益普及，算法公平性与隐私保护受到越来越多的重视。尽管先前的研究已将这两个领域作为独立目标进行探索，但人们越来越认识到隐私与公平之间存在着复杂的关系。然而，以往的工作主要通过实证研究来考察隐私与公平的相互作用，而对理论探索的关注有限。本研究旨在通过引入一个理论框架来弥合这一差距，从而全面考察二者的相互关系。我们将开发并分析一种基于信息瓶颈 (IB) 的信息混淆方法，该方法结合局部差分隐私 (LDP) 用于公平表示学习。与许多关于 ML 公平性的实证研究不同，我们证明了在编码过程中引入 LDP 随机化器可以增强所学表示的公平性。我们的分析将表明，敏感信息的披露受限于 LDP 随机化器的隐私预算，从而使 IB 框架内的优化过程能够通过混淆有效地抑制敏感信息，同时保留所需的效用。基于所提出的方法，我们进一步开发了一种变分表示编码方法，可同时实现公平性和 LDP。我们的变分编码方法具有实际优势：它采用非对抗方法进行训练，且不需要引入任何变分先验。我们将通过大量实验验证理论结果，并展示所提方法在保持充足效用的同时实现 LDP 和公平性的能力。
引用
@article{arxiv.2402.10473,
title = {Privacy for Fairness: Information Obfuscation for Fair Representation Learning with Local Differential Privacy},
author = {Songjie Xie and Youlong Wu and Jiaxuan Li and Ming Ding and Khaled B. Letaief},
journal= {arXiv preprint arXiv:2402.10473},
year = {2024}
}