通过向量逼近提高标签差分隐私学习
机器学习
2024-05-27 v1
摘要
标签差分隐私 (DP) 是一种保护训练数据标签隐私的框架，而特征向量为公开。现有方法通过随机翻转标签来保护隐私，然后训练模型以使输出逼近隐私化后的标签。然而，随着类别数 的增加，需采用更强的随机化，从而使这些方法的性能显著下降。本文提出了一种向量逼近方法，易于实现且引入极少的额外计算开销。我们的 method 将每个标签转换为由 个分量构成的随机向量，其期望值反映类别条件概率。直观地说，向量逼近保留了比标量标签更多的信息。简短的理论分析表明，我们的方法的性能随 增加仅略有衰减。最终，我们在合成数据和真实数据上进行实验，验证了我们的理论分析以及本方法的实际性能。
引用
@article{arxiv.2405.15150,
title = {Enhancing Learning with Label Differential Privacy by Vector Approximation},
author = {Puning Zhao and Rongfei Fan and Huiwen Wu and Qingming Li and Jiafei Wu and Zhe Liu},
journal= {arXiv preprint arXiv:2405.15150},
year = {2024}
}