PFGuard：面向隐私与公平性的生成式框架
机器学习
2025-03-03 v2 人工智能
摘要
生成式模型必须确保隐私与公平性，以实现可信赖的人工智能。虽然这些目标曾分别被 Pursue，但近期研究提出将现有隐私与公平技术组合以实现双重目标。然而，盲目组合这些技术可能因隐私-公平性冲突而不足——少数族裔中的一个样本可能以支持公平性的方式被表示，却因隐私需求而被抑制。我们展示了这些冲突导致的负面影响，如隐私违规和意外的公平性-效用权衡。为缓解这些风险，我们提出PFGuard，一种具备隐私与公平性安全措施的生成式框架，同时解决隐私、公平性和效用问题。通过采用多个教师模型的集成，PFGuard在公平与私人训练阶段之间平衡隐私-公平冲突，并基于集成学习实现高效用。大量实验表明，PFGuard能够在高维数据上生成合成数据，同时提供DP保证并在公平生成建模中实现收敛。
引用
@article{arxiv.2410.02246,
title = {PFGuard: A Generative Framework with Privacy and Fairness Safeguards},
author = {Soyeon Kim and Yuji Roh and Geon Heo and Steven Euijong Whang},
journal= {arXiv preprint arXiv:2410.02246},
year = {2025}
}
备注
In Proceedings of the 13th International Conference on Learning Representations (ICLR), 2025