矩阵乘积态的神经正切核：收敛性及其应用

在本工作中，我们研究了矩阵乘积态（MPS）的神经正切核（NTK）及其在无限键维极限下的 NTK 收敛性。我们通过观察到在无限极限下训练过程中 MPS 中张量的变化渐近趋于零，证明了随着 MPS 的键维趋于无穷，其 NTK 在梯度下降（训练）过程（以及初始化阶段）中渐近收敛于一个常数矩阵。通过证明 MPS 的 NTK 的正定性，MPS 在函数空间（由 MPS 表示的函数空间）中训练时的收敛性在无需对数据集作任何额外假设的情况下得到保证。我们随后考虑了（有监督）均方误差回归（RMSE）与（无监督）Born 机（BM）的设置，并分析了它们在无限键维极限下的动力学。我们推导并闭式求解了描述 RMSE 与 BM 中 MPS 响应动力学的常微分方程（ODEs）。对于回归，我们考虑 Mercer 核（高斯核），发现 MPS 响应均值的演化遵循 NTK 的最大特征值。由于 BM 中核函数的正交性，不同模式（样本）的演化解耦，并得到了训练中收敛的“特征时间”。