纵向联邦学习中抵御推理攻击的隐私保护
机器学习
2022-09-08 v3 密码学与安全
信息论
math.IT
摘要
本文考虑纵向联邦学习,其中拥有真实类标签的主动方希望利用被动方提供的更多特征(被动方无法访问标签)来构建分类模型,以提高模型精度。在预测阶段,以逻辑回归作为分类模型,提出了若干推理攻击技术,敌手(即主动方)可利用这些技术重构被动方的特征,这些特征被视为敏感信息。这些攻击主要基于集合中心的经典概念即切比雪夫中心,被证明优于文献中已有攻击。此外,为上述攻击提供了若干理论性能保证。随后,我们考虑敌手完全重构被动方特征所需的最小信息量。特别地,证明当被动方持有一个特征且敌手仅知晓相关参数的符号时,在预测次数足够多时可完美重构该特征。接着,作为一种防御机制,提出了一种隐私保护方案,其在保持纵向联邦学习给主动方带来全部收益的同时,削弱敌方的重构攻击。最后,实验结果证明了所提攻击与隐私保护方案的有效性。
引用
@article{arxiv.2207.11788,
title = {Privacy Against Inference Attacks in Vertical Federated Learning},
author = {Borzoo Rassouli and Morteza Varasteh and Deniz Gunduz},
journal= {arXiv preprint arXiv:2207.11788},
year = {2022}
}