中文

分布式专家问题的更好界限

机器学习 2026-03-11 v1 数据结构与算法 机器学习

摘要

本文研究分布式专家问题,其中 nn 个专家分布在 ss 个服务器上,持续 TT 个时间步。每个专家在每个时间 tt 的损失是该专家在该 ss 个服务器上在时间 tt 的损失向量的 p\ell_p 范数。目标是最小化诸如 RR,即分布式协议的损失与最佳专家的损失之差,沿所有 TT 次时间的平均值,同时使用最少的通信。我们给出的协议实现的后悔约为大约 R1Tpolylog(nsT)R\gtrsim\frac{1}{\sqrt{T}\cdot\text{poly}\log(nsT)},使用 O(nR2+sR2)max(s12/p,1)polylog(nsT)\mathcal{O}\left(\frac{n}{R^2}+\frac{s}{R^2}\right)\cdot\max(s^{1-2/p},1)\cdot\text{poly}\log(nsT) 位的通信量,这在先前工作基础上有所改进。

关键词

引用

@article{arxiv.2603.09168,
  title  = {Better Bounds for the Distributed Experts Problem},
  author = {David P. Woodruff and Samson Zhou},
  journal= {arXiv preprint arXiv:2603.09168},
  year   = {2026}
}