任意划分通信模型下的$\ell_p$-回归

我们考虑协调器模型中分布式$\ell_p$-回归问题($p\in (0,2]$)的随机通信复杂度。该问题中有一个协调器与$s$个服务器。第$i$个服务器接收$A^i\in\{-M, -M+1, \ldots, M\}^{n\times d}$与$b^i\in\{-M, -M+1, \ldots, M\}^n$，协调器希望找到$\min_{x\in\mathbb{R}^n} \|(\sum_i A^i)x - (\sum_i b^i)\|_p$的$(1+\epsilon)$-近似解。此处为方便起见设$M \leq \mathrm{poly}(nd)$。这种数据在服务器间加性共享的模型通常称为任意划分模型。我们获得了该问题的显著改进界限。对于$p = 2$，即最小二乘回归，我们给出首个最优界限$\tilde{\Theta}(sd^2 + sd/\epsilon)$比特。对于$p \in (1,2)$，我们得到$\tilde{O}(sd^2/\epsilon + sd/\mathrm{poly}(\epsilon))$的上界。值得注意的是，当$d$足够大时，我们的首项仅线性依赖于$1/\epsilon$而非二次。我们还展示了通信下界：对$p\in (0,1]$为$\Omega(sd^2 + sd/\epsilon^2)$，对$p\in (1,2]$为$\Omega(sd^2 + sd/\epsilon)$。我们的界限大幅改进了(Woodruff等人，COLT，2013)与(Vempala等人，SODA，2020)的先前界限。