垂直逻辑回归是否具有隐私保护性？全面隐私分析及其拓展
密码学与安全
2022-07-20 v1 机器学习
摘要
我们考虑用小批量梯度下降训练的垂直逻辑回归（VLR）——这一设置在工业界引起了日益增长的兴趣，并已被证明在包括金融和医学研究在内的广泛应用中很有用。我们在一类开源联邦学习框架中对VLR进行了全面且严谨的隐私分析，这些框架的协议可能彼此不同，但获取本地梯度的过程被隐式共享。我们首先考虑诚实但好奇的威胁模型，其中忽略协议的具体实现而仅假设共享过程，我们将其抽象为一个预言机。我们发现即使在此通用设置下，在合适的批大小约束下，仍可从另一方恢复单维特征和标签，从而证明了遵循相同理念的所有框架的潜在脆弱性。然后我们深入研究一种基于同态加密（HE）的流行协议实例化。我们提出一种主动攻击，通过生成和压缩辅助密文显著弱化了先前分析中对批大小的限制。为解决基于HE协议中的隐私泄露，我们开发了一种基于差分隐私（DP）的简单而有效的对策，并为更新后的算法提供了效用和隐私保证。最后，我们在基准数据集上经验性地验证了攻击与防御的有效性。总之，我们的发现表明，仅依赖HE的所有垂直联邦学习框架都可能包含严重的隐私风险，而已在横向联邦学习中展现威力的DP在垂直设置中也能起关键作用，尤其当其与HE或安全多方计算（MPC）技术结合时。
引用
@article{arxiv.2207.09087,
title = {Is Vertical Logistic Regression Privacy-Preserving? A Comprehensive Privacy Analysis and Beyond},
author = {Yuzheng Hu and Tianle Cai and Jinyong Shan and Shange Tang and Chaochao Cai and Ethan Song and Bo Li and Dawn Song},
journal= {arXiv preprint arXiv:2207.09087},
year = {2022}
}