中文

基于空腔方法的近似矩阵补全

数值分析 2020-01-08 v1 统计力学 机器学习 数值分析

摘要

为解决大规模矩阵补全问题且具有实用计算代价,基于矩阵分解的近似方法已被广泛使用。交替最小二乘(ALS)和随机梯度下降(SGD)是为此的两类主要算法。在本研究中,我们提出新算法,即基于空腔的矩阵分解(CBMF)和近似基于空腔的矩阵分解(ACBMF),其基于统计力学的空腔方法发展而来。与 SGD 相比,ALS 以更少迭代给出解。这是因为其更新规则以闭式表述,尽管其计算代价更高。CBMF 也能以闭式写出更新规则,且计算代价低于 ALS。提出 ACBMF 以弥补 CBMF 在较高内存代价方面的劣势。我们通过实验说明所提方法在每次迭代收敛速度上优于两种现有算法,且可在观测项相对较少的条件下工作。此外,与 SGD 不同,(A)CBMF 不需要学习率调度。

关键词

引用

@article{arxiv.1907.00138,
  title  = {Approximate matrix completion based on cavity method},
  author = {Chihiro Noguchi and Yoshiyuki Kabashima},
  journal= {arXiv preprint arXiv:1907.00138},
  year   = {2020}
}

备注

20 pages, 11 figures