切换自回归低秩张量模型
机器学习
2023-06-08 v2 统计方法学
机器学习
摘要
时间序列分析中的一个重要问题是建模具有时变动态的系统。具有连续与离散联合隐状态的的概率模型为此类数据提供了可解释、高效且对实验有用的描述。常用模型包括自回归隐马尔可夫模型（ARHMMs）和切换线性动力系统（SLDSs），各自有其优缺点。ARHMMs 允许精确推断和简便参数估计，但在建模长依赖时参数密集，因此容易过拟合。相反，SLDSs 可通过马尔可夫隐动态以参数高效的方式捕捉长程依赖，但存在难处理的似然和艰巨的参数估计任务。本文提出切换自回归低秩张量（SALT）模型，在保留两种方法优势的同时缓解其弱点。SALT 用低秩分解参数化 ARHMM 的张量，以控制参数数量并允许更长程依赖而不发生过拟合。我们证明了 SALT 与线性动力系统及 SLDSs 之间的理论联系并讨论了实际联系。我们在一系列模拟和真实预测任务（包括行为和神经数据集）上实证展示了 SALT 模型的定量优势。此外，学习到的低秩张量为每个离散状态内的时间依赖提供了新颖洞察。
引用
@article{arxiv.2306.03291,
title = {Switching Autoregressive Low-rank Tensor Models},
author = {Hyun Dong Lee and Andrew Warrington and Joshua I. Glaser and Scott W. Linderman},
journal= {arXiv preprint arXiv:2306.03291},
year = {2023}
}