通过影响函数评估局部差分隐私对效用损失的影响
机器学习
2023-09-19 v1 密码学与安全
摘要
如何恰当设定差分隐私（DP）中的隐私参数，自 2006 年 DP 首次提出以来一直是 DP 研究中的一个开放问题。在本工作中，我们展示了影响函数能够提供洞察的能力，即在基于随机响应的局部 DP 设定下，特定隐私参数值将如何影响模型的测试损失。我们提出的方法允许数据管理者选择与其允许的隐私-效用权衡最相符的隐私参数，而无需如大量模型重训练与数据私有化般繁重计算。我们考虑多种常见随机化场景，例如对特征实施随机响应、和/或对标签实施随机响应，以及应用类依赖标签噪声校正方法以抵消随机化所引入噪声的更复杂情形。此外，我们详细讨论了所提方法的计算复杂度并包含实证分析。通过实证评估，我们表明在二分类与多分类设定下，影响函数均能以较小的平均绝对误差逼近当对特征和/或标签施加随机响应时测试损失发生的真实变化，尤其在应用了噪声校正方法的情况下。
引用
@article{arxiv.2309.08678,
title = {Evaluating the Impact of Local Differential Privacy on Utility Loss via Influence Functions},
author = {Alycia N. Carey and Minh-Hao Van and Xintao Wu},
journal= {arXiv preprint arXiv:2309.08678},
year = {2023}
}
备注
11 pages, 2 figures