一种高效的基于ReLU的对称矩阵分解交替算法

Qingsong Wang

一种高效的基于ReLU的对称矩阵分解交替算法

机器学习 2025-04-29 v2 最优化与控制

作者: Qingsong Wang

摘要

对称矩阵分解是机器学习中的一个活跃研究领域。本文专注于通过修正线性单元（ReLU）激活函数利用非负且稀疏对称矩阵的低秩结构。我们提出了基于ReLU的非线性对称矩阵分解（ReLU-NSMD）模型，引入了一种加速交替部分Bregman（AAPB）方法进行求解，并给出了算法的收敛结果。我们的算法利用Bregman近端梯度框架克服了经典近端梯度算法中估计全局L-光滑常数的挑战。在合成和真实数据集上的数值实验验证了我们的模型和算法的有效性。

关键词

对称矩阵分解 ReLU激活非负矩阵分解 Bregman近端梯度交替算法低秩结构

引用

@article{arxiv.2503.16846,
  title  = {An Efficient Alternating Algorithm for ReLU-based Symmetric Matrix Decomposition},
  author = {Qingsong Wang},
  journal= {arXiv preprint arXiv:2503.16846},
  year   = {2025}
}

备注

7 pages, 2 figures. The paper is under consideration at Pattern Recognition Letters

一种高效的基于ReLU的对称矩阵分解交替算法

摘要

关键词

引用

备注

相关论文