针对窃听的隐私保护序贯学习的最优查询复杂度
机器学习
2020-08-18 v2 密码学与安全
机器学习
摘要
我们研究一类学习器隐私的序贯学习问题的查询复杂度，其动机源于定价和联邦学习等实际应用中的窃听所引发的隐私与安全问题。学习器试图通过序贯查询外部数据库并接收二元响应来估计一个未知标量值；与此同时，第三方敌手观察到学习器的查询但看不到响应。学习器的目标是设计一种具有最少查询次数（最优查询复杂度）的查询策略，以使她能准确估计真值，而即便完全掌握其查询策略的窃听敌手也无法做到。我们提出了新的查询策略和分析技术，并用以证明最优查询复杂度的紧上界与下界。这些界在整个参数范围内几乎吻合，大幅改进了已有结果。因此我们获得了最优查询复杂度作为估计精度和所需隐私水平的函数的完整图景。我们还将结果推广到高维序贯学习模型以及二元响应含噪的情形。我们的分析利用了对隐私学习问题本质的关键洞察，即表明最优学习器的查询轨迹可划分为不同阶段，分别专注于纯学习与学习和混淆。
引用
@article{arxiv.1909.09836,
title = {Optimal query complexity for private sequential learning against eavesdropping},
author = {Jiaming Xu and Kuang Xu and Dana Yang},
journal= {arXiv preprint arXiv:1909.09836},
year = {2020}
}