中文

本地差分隐私下的投票聚合:有用性、合理性与不可区分性

密码学与安全 2019-08-15 v1 机器学习

摘要

投票在将群体智慧引入集体决策中起着核心作用,同时数据隐私在获取个人偏好时一直是一个普遍的伦理/法律问题。本文研究在本地差分隐私设定下聚合个人投票数据的问题,其中聚合分数的有用性和合理性是主要关注点。解决该问题的一个朴素方法是添加拉普拉斯随机噪声,然而,它使得聚合分数极易受到针对本地隐私设定的新型策略行为的攻击:数据放大攻击和视图伪装攻击。数据放大攻击是指攻击者在提交欺诈性投票时,其操纵能力被隐私保护过程所放大。视图伪装攻击发生在攻击者将恶意数据伪装成有效的私有视图以操纵投票结果时。在本文中,在理论上量化了拉普拉斯机制的估计误差界和操纵风险界之后,我们提出了两种同时改善有用性和合理性的机制:加权采样机制和加性机制。前者将分数向量解释为概率数据。与针对具有 dd 个候选的 Borda 投票规则的拉普拉斯机制相比,它将均方误差界减少一半,并将最大幅度风险界从 ++\infty 降低到 O(d3nϵ)O(\frac{d^3}{n\epsilon})。后者根据其总分数随机输出候选的一个子集。其均方误差界从 O(d5nϵ2)O(\frac{d^5}{n\epsilon^2}) 优化到 O(d4nϵ2)O(\frac{d^4}{n\epsilon^2}),其最大幅度风险界降低到 O(d2nϵ)O(\frac{d^2}{n\epsilon})。实验结果验证了我们提出的方法平均将估计误差减少 50%50\% 并且对对抗性攻击更具鲁棒性。

关键词

引用

@article{arxiv.1908.04920,
  title  = {Aggregating Votes with Local Differential Privacy: Usefulness, Soundness vs. Indistinguishability},
  author = {Shaowei Wang and Jiachun Du and Wei Yang and Xinrong Diao and Zichun Liu and Yiwen Nie and Liusheng Huang and Hongli Xu},
  journal= {arXiv preprint arXiv:1908.04920},
  year   = {2019}
}