正则化低秩模型对并行架构的适配
最优化与控制
2017-10-05 v2
摘要
我们引入了对正则化低秩恢复模型的重新表述，以利用 GPU、多 CPU 和混合架构。低秩恢复通常涉及通过奇异值迭代阈值化的核范数最小化。这些模型拟合缓慢且难以并行化，因为它们依赖于每次迭代计算奇异值分解。正则化低秩恢复模型还包含非光滑项，以将结构化分量（例如稀疏离群点）与低秩分量分离，使得这些问题更加困难。利用 Burer-Monteiro 分裂与边缘化，我们开发了正则化低秩恢复模型的平滑、非凸表述，可用一阶求解器拟合。我们为该非凸规划开发了可计算的收敛证书，并用其建立任意点的次优性界。以鲁棒主成分分析（RPCA）为例，我们给出了数值实验，表明该方法在 GPU 上比现有 RPCA 求解器快一个数量级。我们还表明，这种加速使得 RPCA 的新应用成为可能，包括实时背景减除和 MR 图像分析。
引用
@article{arxiv.1702.02241,
title = {Adapting Regularized Low Rank Models for Parallel Architectures},
author = {Derek Driggs and Stephen Becker and Aleksandr Aravkin},
journal= {arXiv preprint arXiv:1702.02241},
year = {2017}
}
备注
23 pages, 14 figures, pre-print