隐私-效用帕累托前沿的自动发现
机器学习
2020-07-23 v4 机器学习
摘要
差分隐私是一种用于隐私保护数据分析的数学框架。改变差分隐私算法的超参数，可以以一种原则性的方式在隐私和效用之间进行权衡。提前量化这种权衡，对于需要在特定应用中决定在保持可接受效用的同时能提供多少隐私的决策者是至关重要的。解析效用保证提供了一种严谨的工具来推理这种权衡，但通常仅适用于相对简单的问题。对于更复杂的任务，例如在差分隐私下训练神经网络，给定算法所达到的效用只能通过经验测量来获得。本文提出了一种贝叶斯优化方法，仅利用对算法效用的经验测量，即可高效刻画任意差分隐私算法的隐私-效用权衡。我们的方法的通用性在涉及多个模型、优化器和数据集的若干机器学习任务中得到了说明。
引用
@article{arxiv.1905.10862,
title = {Automatic Discovery of Privacy-Utility Pareto Fronts},
author = {Brendan Avent and Javier Gonzalez and Tom Diethe and Andrei Paleyes and Borja Balle},
journal= {arXiv preprint arXiv:1905.10862},
year = {2020}
}
备注
Proceedings on Privacy Enhancing Technologies 2020