NeCPD：一种基于最优随机梯度下降的在线张量分解方法

多向数据分析已成为刻画存储在张量 $\mathcal{X} \in \mathbb{R} ^{I_1 \times \dots \times I_N}$ 中的高阶数据集潜在结构的重要工具。$CANDECOMP/PARAFAC$（CP）分解已被广泛研究并应用于用 $N$ 个载荷矩阵 $A^{(1)}, \dots, A^{(N)}$ 逼近 $\mathcal{X}$，其中 $N$ 表示张量的阶数。我们提出了一种基于随机梯度下降（SGD）算法的、面向多向在线数据中非凸问题的新型高效 CP 分解求解器 NeCPD。SGD 在在线场景中非常有用，因为它允许我们单步更新 $\mathcal{X}^{(t+1)}$。在全局收敛性方面，众所周知 SGD 在处理非凸问题时会陷入许多鞍点。我们研究 Hessian 矩阵以识别这些鞍点，然后尝试使用扰动方法（向梯度更新步骤添加少量噪声）逃离它们。我们进一步在 SGD 算法中应用 Nesterov 加速梯度（NAG）方法，以最优地加速收敛速率并补偿每轮 Hessian 计算延迟时间。利用基于实验室和真实结构的数据集在结构健康监测领域的实验评估表明，与现有在线张量分析方法相比，我们的方法提供了更精确的结果。