基于差分隐私合成数据的AI公平性定量审计
计算机与社会
2025-05-01 v1 人工智能
机器学习
摘要
AI系统的公平性审计可以识别和量化偏见。然而，使用真实数据进行传统审计会引发安全和隐私问题。它使审计员面临安全风险，因为他们成为敏感信息的保管人和网络攻击的目标。即使没有直接泄露，数据分析也可能无意中暴露机密信息，从而产生隐私风险。为了解决这些问题，我们提出了一个框架，利用差分隐私合成数据来审计AI系统的公平性。通过应用隐私保护机制，它生成反映原始数据集统计特性同时确保隐私的合成数据。该方法平衡了严格公平性审计与强隐私保护的需求。通过在Adult、COMPAS和Diabetes等真实数据集上的实验，我们比较了合成数据和真实数据的公平性指标。通过分析这些指标的一致性和差异，我们评估了合成数据保留真实数据公平性属性的能力。我们的结果证明了该框架在保护敏感信息的同时实现有意义的公平性评估的能力，证明了其在关键和敏感领域的适用性。
引用
@article{arxiv.2504.21634,
title = {Quantitative Auditing of AI Fairness with Differentially Private Synthetic Data},
author = {Chih-Cheng Rex Yuan and Bow-Yaw Wang},
journal= {arXiv preprint arXiv:2504.21634},
year = {2025}
}