SAFES：面向负责任AI的序贯隐私与公平增强数据合成
机器学习
2025-10-21 v3 密码学与安全
摘要
随着数据驱动和基于AI的决策在各学科广泛采用，妥善解决数据隐私和决策公平性至关重要。尽管差分隐私（DP）提供了保障隐私的稳健框架，且已有改进公平性的方法，但大多数先前工作将这两个问题分别处理。即使存在同时考虑隐私和公平性的现有方法，它们通常聚焦于单一特定学习任务，限制了其泛化性。为此，我们提出了SAFES，一种序贯隐私与公平增强数据合成程序，它将DP数据合成与感知公平的数据预处理步骤序贯结合。SAFES允许用户灵活地在隐私-公平-效用权衡中进行导航。我们结合不同的DP合成器和感知公平的数据预处理方法展示了SAFES，并在多个真实数据集上进行了大量实验，以考察SAFES生成的合成数据的隐私-公平-效用权衡。实证评估表明，在合理的隐私损失下，SAFES生成的合成数据能以相对较低的效用损失显著改善公平性指标。
引用
@article{arxiv.2411.09178,
title = {SAFES: Sequential Privacy and Fairness Enhancing Data Synthesis for Responsible AI},
author = {Spencer Giddens and Xiaon Lang and Fang Liu},
journal= {arXiv preprint arXiv:2411.09178},
year = {2025}
}