LDPKiT：叠加远程查询以实现隐私保护的本地模型训练
机器学习
2025-10-14 v3 密码学与安全
计算机与社会
摘要
现代机器学习（ML）云服务的用户面临一个隐私困境——一方面，他们可能担心将私人数据发送到服务进行推理，但另一方面，对于专门的模型，可能除了使用ML服务的专有模型之外别无选择。在这项工作中，我们提出了LDPKiT，一个非对抗性的、保护隐私的模型提取框架，它利用用户的私有分布内数据，同时限制隐私泄露。LDPKiT引入了一种新颖的叠加技术，生成近似分布内的样本，从而在局部差分隐私（LDP）下实现有效的知识迁移。在Fashion-MNIST、SVHN和PathMNIST上的实验表明，LDPKiT在保持隐私的同时持续提高了效用，并且在更强的噪声水平下益处更加明显。例如，在SVHN上，LDPKiT在时实现了与时几乎相同的推理精度，以不到2%的精度降低提供了更强的隐私保证。我们进一步进行了敏感性分析，以检查数据集大小对性能的影响，并提供了潜在空间表示的系统分析，为LDPKiT的精度提升提供了理论见解。
引用
@article{arxiv.2405.16361,
title = {LDPKiT: Superimposing Remote Queries for Privacy-Preserving Local Model Training},
author = {Kexin Li and Aastha Mehta and David Lie},
journal= {arXiv preprint arXiv:2405.16361},
year = {2025}
}