基于张量网络的机器学习中贫瘠高原的有与无

张量网络是高维张量的高效表示，在量子多体物理中有广泛应用。近来，它们已被引入机器学习领域，催生了一个引人关注的新兴研究前沿。在此，我们通过探索不同损失函数的景观，研究基于张量网络的机器学习模型的可训练性，重点关注矩阵乘积态（也称为张量列）架构。特别地，我们严格证明，在使用全局损失函数的机器学习算法的训练过程中，贫瘠高原（即指数级消失的梯度）普遍存在。而对于局部损失函数，相对于局部可观测量附近的变分参数的梯度不会随系统尺寸增大而消失。因此，在这种情况下贫瘠高原不存在，相应模型可高效训练。我们的结果以严格方式揭示了基于张量网络的机器学习的一个关键方面，为未来的实际应用和理论研究提供了宝贵指导。