OpBoost:基于保序脱敏的纵向联邦树提升框架
机器学习
2022-10-05 v1 密码学与安全
摘要
纵向联邦学习(FL)是一种新范式,使拥有相同数据样本非重叠属性的用户在不直接共享原始数据的情况下联合训练模型。然而,近期工作表明,这仍不足以防止来自训练过程或已训练模型的隐私泄露。本文聚焦于研究纵向 FL 下的隐私保护树提升算法。现有基于密码学的方案涉及沉重计算与通信开销,且易受推理攻击。尽管基于本地差分隐私(LDP)的方案解决了上述问题,却导致训练模型精度低下。本文探索在纵向 FL 下提升满足差分隐私的广泛部署树提升算法的精度。具体地,我们引入名为 OpBoost 的框架。设计了三种满足称为基于距离的 LDP(dLDP)的 LDP 变体的保序脱敏算法以对训练数据脱敏。特别地,我们优化了 dLDP 定义并研究了高效采样分布,以进一步提升所提算法的精度与效率。所提算法在具有大距离的样本对隐私与脱敏值效用之间提供了权衡。综合评估表明,在合理设置下,与现有 LDP 方法相比,OpBoost 在训练模型的预测精度上具有更优表现。我们的代码已开源。
引用
@article{arxiv.2210.01318,
title = {OpBoost: A Vertical Federated Tree Boosting Framework Based on Order-Preserving Desensitization},
author = {Xiaochen Li and Yuke Hu and Weiran Liu and Hanwen Feng and Li Peng and Yuan Hong and Kui Ren and Zhan Qin},
journal= {arXiv preprint arXiv:2210.01318},
year = {2022}
}