用于分布式推荐系统中掉队者缓解的编码交替最小二乘
信息论
2021-05-11 v1 math.IT
摘要
矩阵分解是一种重要的表示学习算法，例如推荐系统，其中大矩阵可被分解为两个称为潜在表示的低维矩阵的乘积。本文研究了具有掉队者(即返回计算结果缓慢的计算节点)的分布式计算系统中的矩阵分解问题。提出了一种称为编码交替最小二乘(ALS)的计算过程，用于缓解此类系统中掉队者的影响。编码ALS算法以纠缠多项式码(EPC)为基本模块，通过求解各种线性方程迭代计算两个低维潜在矩阵。我们从理论上刻画了算法所能容忍的最大掉队者数量(或恢复阈值)与编码冗余(或码率)的关系。此外，我们从理论上给出了编码ALS算法的计算复杂度，并进行了数值实验以验证我们的设计。
引用
@article{arxiv.2105.03631,
title = {Coded Alternating Least Squares for Straggler Mitigation in Distributed Recommendations},
author = {Siyuan Wang and Qifa Yan and Jingjing Zhang and Jianping Wang and Linqi Song},
journal= {arXiv preprint arXiv:2105.03631},
year = {2021}
}
备注
11 pages