面向隐私数据保护的茫然采样算法
密码学与安全
2020-09-30 v1 数据结构与算法
机器学习
摘要
我们研究基于在数据集样本上执行查询的安全且保护隐私的数据分析。可信执行环境（TEEs）可用于在查询计算期间保护数据内容，而在TEEs中支持差分隐私（DP）查询可在查询输出公开时提供记录隐私。由于隐私放大，对基于样本的查询的支持颇具吸引力，因为并非使用整个数据集来回答查询，而仅使用一个小子集。然而，在TEEs中提取数据样本同时提供强DP保证并非易事，因为必须保持样本索引的机密性。为此，我们设计了常见采样算法的高效安全变体。我们通过实验表明，对于MNIST和CIFAR-10的差分隐私模型，使用混洗和采样训练的模型精度相同，而采样比混洗提供更强的隐私保证。
引用
@article{arxiv.2009.13689,
title = {Oblivious Sampling Algorithms for Private Data Analysis},
author = {Sajin Sasy and Olga Ohrimenko},
journal= {arXiv preprint arXiv:2009.13689},
year = {2020}
}
备注
Appeared in NeurIPS 2019