中文

DRIVE:单比特分布式均值估计

机器学习 2021-12-17 v5 数据结构与算法

摘要

我们考虑如下问题:nn 个客户端各自使用 d(1+o(1))d(1+o(1)) 比特传输 dd 维实值向量,使得接收方能够近似重构它们的均值。此类压缩问题自然出现在分布式学习与联邦学习中。我们给出了新的数学结果,并推导出计算高效的算法,其精度优于以往的压缩技术。我们在一系列分布式与联邦学习任务上使用多种数据集评估了我们的方法,并显示出相对于当前最优水平的一致提升。

关键词

引用

@article{arxiv.2105.08339,
  title  = {DRIVE: One-bit Distributed Mean Estimation},
  author = {Shay Vargaftik and Ran Ben Basat and Amit Portnoy and Gal Mendelson and Yaniv Ben-Itzhak and Michael Mitzenmacher},
  journal= {arXiv preprint arXiv:2105.08339},
  year   = {2021}
}

备注

Appears in NeurIPS 2021