用于机器学习的残差矩阵乘积态
机器学习
2023-06-07 v2 强关联电子
计算机视觉与模式识别
量子物理
摘要
张量网络源于量子物理，正成为经典与量子机器学习的高效工具。然而，在经典机器学习中，张量网络与复杂神经网络模型之间仍存在显著的精度差距。本工作中，我们结合矩阵乘积态(MPS)（最简单的张量网络结构）与残差神经网络的思想，提出了残差矩阵乘积态(ResMPS)。ResMPS可视为一种网络，其各层将“隐藏”特征映射到输出（如分类），且各层的变分参数是样本特征（如图像像素）的函数。这不同于神经网络中各层将特征前馈式映射到输出。ResMPS可配备非线性激活与丢弃层，并在效率、稳定性和表达能力上优于最先进的张量网络模型。此外，ResMPS可从多项式展开的角度解释，其中因子分解机与指数机自然浮现。我们的工作有助于连接与混合神经与张量网络，这对进一步增强我们对两者工作机制的理解并提升其性能至关重要。
引用
@article{arxiv.2012.11841,
title = {Residual Matrix Product State for Machine Learning},
author = {Ye-Ming Meng and Jing Zhang and Peng Zhang and Chao Gao and Shi-Ju Ran},
journal= {arXiv preprint arXiv:2012.11841},
year = {2023}
}