中文

面向纵向联邦学习的大规模安全XGB

机器学习 2021-09-03 v2 密码学与安全 机器学习

摘要

隐私保护机器学习近期受到越来越多的关注,尤其在各类隐私法规生效的背景下。在此情形下,联邦学习(FL)应运而生,以促进多方间隐私保护的联合建模。尽管许多联邦算法已被广泛研究,文献中仍缺乏安全且实用的梯度树提升模型(如XGB)。本文旨在构建纵向联邦学习设定下的大规模安全XGB。我们从三方面保障数据隐私:具体而言,(i)采用安全多方计算技术以避免训练中间信息泄露,(ii)以分布式方式存储输出模型以最小化信息释放,(iii)提供一种基于分布式模型的安全XGB预测新算法。此外,通过提出安全置换协议,我们提升了训练效率并使框架可扩展至大规模数据集。我们在公开数据集与真实数据集上进行了充分实验,结果表明所提XGB模型不仅具有具竞争力的精度,还具备实用性能。

关键词

引用

@article{arxiv.2005.08479,
  title  = {Large-Scale Secure XGB for Vertical Federated Learning},
  author = {Wenjing Fang and Derun Zhao and Jin Tan and Chaochao Chen and Chaofan Yu and Li Wang and Lei Wang and Jun Zhou and Benyu Zhang},
  journal= {arXiv preprint arXiv:2005.08479},
  year   = {2021}
}

备注

accepted by cikm21