Compressed-VFL：纵向划分数据上的通信高效学习
机器学习
2023-03-30 v2
摘要
我们提出压缩纵向联邦学习（C-VFL）用于纵向划分数据上的通信高效训练。在 C-VFL 中，服务器与多个参与方通过若干本地迭代并周期性共享压缩中间结果，在其各自特征上协作训练模型。我们的工作首次提供了消息压缩对纵向划分数据上分布式训练影响的理论分析。我们证明了当压缩误差在训练过程中有界时，非凸目标以 的速率收敛。我们给出了使用常见压缩技术（如量化和 top- 稀疏化）收敛的具体要求。最后，我们通过实验表明，与不压缩的 VFL 相比，压缩可在精度无显著下降的情况下将通信量减少超过 。
引用
@article{arxiv.2206.08330,
title = {Compressed-VFL: Communication-Efficient Learning with Vertically Partitioned Data},
author = {Timothy Castiglia and Anirban Das and Shiqiang Wang and Stacy Patterson},
journal= {arXiv preprint arXiv:2206.08330},
year = {2023}
}