镶嵌式分布式计算

本文考虑$N$服务器分布式计算场景，其中有$K$个用户请求的函数可在线性分解为$L$个实值（可能非线性）子函数的任意基。我们的目标是让每个用户接收到其函数输出，同时允许降低重构误差（失真）$\epsilon$、降低计算成本（$\gamma$；每个服务器必须计算的子函数比例）和降低通信成本（$\delta$；每个服务器必须连接的用户比例）。对于任意给定的$K$个请求函数（此处由系数矩阵$\mathbf{F} \in \mathbb{R}^{K \times L}$表示），我们的问题等价于稀疏矩阵分解的开放问题：对于给定参数$T$（表示每个服务器的射击次数），在所有$\delta$-稀疏和$\gamma$-稀疏矩阵$\mathbf{D}\in \mathbb{R}^{K \times NT}$和$\mathbf{E} \in \mathbb{R}^{NT \times L}$上最小化重构失真$\frac{1}{KL}\|\mathbf{F} - \mathbf{D}\mathbf{E}\|^2_{F}$。这些矩阵分别定义了哪些服务器计算每个子函数，以及哪些用户连接到每个服务器。我们通过设计基于镶嵌和基于SVD的固定支撑矩阵分解方法来设计$\mathbf{D},\mathbf{E}$，这些方法首先将$\mathbf{F}$分割成大小合适且精心定位的子矩阵，然后对其进行近似，再分解成适当设计的$\mathbf{D}$和$\mathbf{E}$的子矩阵。