面向一般损失函数的通用差分隐私学习
统计方法学
2025-01-28 v1
摘要
本文旨在提供一种通用且无前例的隐私保护释放机制，以及后续参数估计和统计推断的统一方法。我们提出了基于零膨胀对称多元拉普拉斯噪声的 ZIL 隐私机制，该机制无需对后续分析任务进行事先指定，可适用于最低条件下的一般损失函数，对分析次数没有限制，并且适应于在线场景中数据量的增加。我们推导了该 ZIL 机制的隐私保护水平的权衡函数。在 M 估计框架内，我们提出了一种新颖的双随机校正损失（DRCL）用于 ZIL 机制，该方法在差分隐私约束下提供一致且渐近正态的 M 估计。该方法计算简单，无需对噪声数据进行数值积分和微分。它适用于一般损失函数的广泛类，包括诸如检查损失和 hinge 损失等非光滑损失函数。我们进行了包括 logistic 回归和分位数回归在内的模拟研究，以评估所提方法的性能。
引用
@article{arxiv.2501.15127,
title = {Versatile Differentially Private Learning for General Loss Functions},
author = {Qilong Lu and Songxi Chen and Yumou Qiu},
journal= {arXiv preprint arXiv:2501.15127},
year = {2025}
}