具有公共数据的Oracle高效差分隐私学习
机器学习
2024-02-16 v1 密码学与安全
机器学习
摘要
由于许多函数类在隐私约束下可学习性的统计下界，最近有兴趣利用公共数据来提高私有学习算法的性能。在该模型中，算法必须始终保证针对私有样本的差分隐私，同时在私有数据分布足够接近公共数据分布时确保学习保证。先前的工作表明，当足够的无标签公共数据可用时，私有学习可以是统计上可实现的，但所得算法都计算上效率低下。本文提出了第一套在函数类可私有学习时能够高效利用公共数据的算法，这种计算效率的衡量标准是针对该函数类的优化oracle调用次数。除了该一般结果外，我们提供了针对函数类为凸的情况或任务为二分类的情况的专用算法，以获得改进的样本复杂度。
关键词
引用
@article{arxiv.2402.09483,
title = {Oracle-Efficient Differentially Private Learning with Public Data},
author = {Adam Block and Mark Bun and Rathin Desai and Abhishek Shetty and Steven Wu},
journal= {arXiv preprint arXiv:2402.09483},
year = {2024}
}