面向个性化差分隐私的 INO-SGD 算法
机器学习
2026-05-11 v1 人工智能
摘要
差分隐私 (DP) 在机器学习中广泛用于保护训练数据的机密或敏感信息。随着数据所有者因数据所有权而获得更大控制权，他们更可能根据自身需求设置隐私要求，这就需要采用个性化差分隐私 (IDP) 来满足此类请求。在 particular，来自更敏感子集（如污名化疾病的阳性病例）的数据所有者可能会设置更强的隐私要求，因为数据泄露可能带来更严重的社会影响。然而，现有的 IDP 算法会引发严重的效用不平衡问题：来自隐私要求更强的数据所有者的数据在训练好的模型中可能严重被低估，导致在部署时对类似数据的后续用户表现较差。本文分析了这一问题，提出了 INO-SGD算法，通过在每个 batch 中策略性地对数据进行加权，以提升对更私有数据的性能。值得注意的是，我们的算法专为满足 IDP 而设计，而现有解决效用不平衡的技术要么不满足 IDP，要么难以轻松适用于 IDP。最后，我们展示了该方法的实证可行性。
引用
@article{arxiv.2605.07930,
title = {INO-SGD: Addressing Utility Imbalance under Individualized Differential Privacy},
author = {Xiao Tian and Jue Fan and Rachael Hwee Ling Sim and Bryan Kian Hsiang Low},
journal= {arXiv preprint arXiv:2605.07930},
year = {2026}
}
备注
Accepted to the 14th International Conference on Learning Representations (ICLR-26)