基于杠杆得分采样的加权梯度编码

机器学习的一个主要障碍是对海量数据集的可扩展性。克服此障碍的方法包括对数据矩阵进行压缩以及分布式计算。\textit{杠杆得分采样}利用重要性加权子集提供数据矩阵的压缩近似。\textit{梯度编码}最近在分布式优化中被提出，用于使用多个不可靠的工作节点计算梯度。通过设计编码矩阵，梯度编码计算可对有损工作节点（即分布式网络中降低系统性能的节点）具有弹性。我们提出一种新颖的\textit{加权杠杆得分}方法，通过利用重要性采样实现了分布式梯度编码的性能提升。