面向时间序列建模的深度高效连续流形学习
机器学习
2023-10-09 v2 计算机视觉与模式识别
摘要
随着深度神经网络在多个领域取得前所未有的成功，非欧几里得数据的建模正受到广泛关注。特别地，对称正定矩阵因能学习有益的统计表示，在计算机视觉、信号处理和医学图像分析中被积极研究。然而，由于其刚性约束，尤其在将其与深度学习框架结合时，优化问题仍具挑战且计算成本高昂。本文提出一种框架，利用黎曼流形与Cholesky空间之间的微分同胚映射，不仅使优化问题的高效求解成为可能，也大幅降低了计算成本。进一步地，对于时间序列数据的动态建模，我们通过系统整合流形常微分方程与门控循环神经网络，设计了一种连续流形学习方法。值得注意的是，得益于Cholesky空间中矩阵的优良参数化，训练我们提出的配备黎曼几何度量的网络十分直接。我们在规则与不规则时间序列数据集上的实验表明，所提模型能够高效可靠地训练，并在多种时间序列任务中优于现有流形方法与最先进方法。
引用
@article{arxiv.2112.03379,
title = {Deep Efficient Continuous Manifold Learning for Time Series Modeling},
author = {Seungwoo Jeong and Wonjun Ko and Ahmad Wisnu Mulyadi and Heung-Il Suk},
journal= {arXiv preprint arXiv:2112.03379},
year = {2023}
}