一种用于非负张量分解的二次收敛近端算法
最优化与控制
2024-04-17 v1
摘要
将张量分解为简单的秩-1项在信号处理、数据分析和机器学习的多种应用中至关重要。尽管该规范多分解(CPD)在温和条件下是唯一的,但引入如非负性之类的先验知识有助于对各分量进行解释。受高斯-牛顿(GN)在无约束 CPD 中有效性与高效性的启发,我们推导了一种用于非负张量分解的近端半光滑 GN 型算法。若算法收敛至全局最优,我们证明在精确情形下可获得 -二次收敛。通过在前向-后向包络函数上进行回溯线搜索实现全局收敛。实验验证了 -二次收敛,并且我们说明与使用近端梯度下降相比,采用 GN 步长显著减少了(昂贵的)梯度计算次数。
引用
@article{arxiv.2003.03502,
title = {A quadratically convergent proximal algorithm for nonnegative tensor decomposition},
author = {Nico Vervliet and Andreas Themelis and Panagiotis Patrinos and Lieven De Lathauwer},
journal= {arXiv preprint arXiv:2003.03502},
year = {2024}
}