利用主动学习改进差分隐私模型
机器学习
2019-10-04 v1 机器学习
摘要
机器学习技术的广泛采用加剧了对在敏感数据（如医疗记录）上训练模型的隐私担忧。现有的差分隐私（DP）模型训练技术提供了严格的隐私保证，但将这些技术应用于神经网络会严重降低模型性能。这种性能下降是私有模型在现实世界中部署的障碍。在本工作中，我们通过在公开数据上利用主动学习对 DP 模型进行微调来提升其性能。我们引入了两种新技术——DIVERSEPUBLIC 与 NEARPRIVATE——以隐私感知的方式执行该微调。对于 MNIST 和 SVHN 数据集，这些技术在保持隐私保证的同时提升了 DP 模型的当前最优准确率。
引用
@article{arxiv.1910.01177,
title = {Improving Differentially Private Models with Active Learning},
author = {Zhengli Zhao and Nicolas Papernot and Sameer Singh and Neoklis Polyzotis and Augustus Odena},
journal= {arXiv preprint arXiv:1910.01177},
year = {2019}
}