基于雅可比矩阵引导的各向异性噪声重塑:用于增强局部差分隐私下的表示效用
机器学习
2026-05-21 v2 密码学与安全
摘要
虽然局部差分隐私(LDP)是分布式数据收集的基石,但其严格的噪声注入要求常常导致数据效用严重下降。这种下降源于传统LDP机制对下游目标不够关注,因而在所有维度上均匀注入噪声,无视其对下游目标的相对重要性。为此,我们提出一种新方法,通过抑制数据表示子空间中与任务相关维度上的噪声来缓解此问题。该方法通过下游公共模型的雅可比矩阵识别任务关键子空间,对这些维度施以噪声抑制,将标准LDP的各向同性噪声重塑为各向异性分布。该方法在保持每个维度均匀隐私预算的同时,对维度间的噪声影响呈异构调制,从而显著提升数据效用。此外,我们的方法可推广至线性模型和非线性模型,并可无缝集成到现有机制中。针对CIFAR-10-C(亮度损坏的最高严重程度5)进行大量实验表明,集成我们的方法可使PrivUnit2和PrivUnitG的效用提高约20%,在时。源代码可在https://github.com/ymha/jacobian-anr-ldp获取。
引用
@article{arxiv.2605.16812,
title = {Jacobian-Guided Anisotropic Noise Reshaping for Enhancing Representation Utility under Local Differential Privacy},
author = {Youngmok Ha and Viktor Schlegel and Yidan Sun and Anil Anthony Bharath},
journal= {arXiv preprint arXiv:2605.16812},
year = {2026}
}