作为高斯过程的张量网络约束核机器
机器学习
2024-03-29 v1 机器学习
摘要
张量网络(TNs)近期被用于通过约束模型权重来加速核机器,从而带来指数级的计算和存储节省。在本文中,我们证明,当在其参数上放置独立同分布先验时,典型多项式分解(CPD)和张量序列(TT)约束核机器的输出可以恢复一个高斯过程(GP),并对其进行了完整刻画。我们分析了CPD和TT约束模型的收敛性,并表明在模型参数数量相同的情况下,与CPD相比,TT产生的模型表现出更多的GP行为。我们在两个数值实验中分别观察到了这一行为,分析了向GP的收敛性以及预测性能。由此,我们建立了TN约束核机器与GP之间的联系。
引用
@article{arxiv.2403.19500,
title = {Tensor Network-Constrained Kernel Machines as Gaussian Processes},
author = {Frederiek Wesel and Kim Batselier},
journal= {arXiv preprint arXiv:2403.19500},
year = {2024}
}