机器学习中隐私与公平性的整体性综述
机器学习
2023-08-01 v1
摘要
隐私与公平性是负责任人工智能(AI)与可信机器学习(ML)的两大关键支柱。文献中已分别对这两项目标进行了研究，旨在减少实现它们时的效用损失。尽管引起了学术界与工业界的极大兴趣，仍迫切需要对这两项目标如何同时集成到 ML 模型中展开更深入的研究。与已被广泛接受的权衡（即隐私-效用与公平-效用）不同，隐私与公平性之间的相互关系尚不明晰。一些工作表明两目标函数间存在权衡，而另一些则展示了这些函数在特定场景下的对齐。为填补此研究空白，我们对 ML 中的隐私与公平性进行了全面综述，涵盖监督、无监督、半监督与强化学习。在审视并梳理两项目标的文献后，我们呈现了关于隐私对公平性的影响、公平性对隐私的影响、现有架构、它们在应用领域中的交互，以及旨在同时实现两目标并最小化牺牲效用的算法的整体性综述。最后，我们指出了在 ML 中同时实现隐私与公平性所面临的研究挑战，尤其关注大语言模型。
引用
@article{arxiv.2307.15838,
title = {Holistic Survey of Privacy and Fairness in Machine Learning},
author = {Sina Shaham and Arash Hajisafi and Minh K Quan and Dinh C Nguyen and Bhaskar Krishnamachari and Charith Peris and Gabriel Ghinita and Cyrus Shahabi and Pubudu N. Pathirana},
journal= {arXiv preprint arXiv:2307.15838},
year = {2023}
}