LORD:在神经粗糙微分方程中对对数签名进行低维嵌入
机器学习
2022-04-20 v1
摘要
处理极长时间序列数据(例如长度超过 10,000)的问题一直是机器学习中的一个长期研究课题。最近,一种称为神经粗糙微分方程(NRDE)的突破被提出,并已被证明能够处理此类数据。其主要思想是采用对数签名变换(已知对于不规则长时间序列比傅里叶变换更高效)将极长的时序样本转换为相对较短的特征向量序列。然而,对数签名变换会带来不小的空间开销。为此,我们提出 LOweR-Dimensional embedding of log-signature(LORD,对数签名的低维嵌入)方法,其中我们定义了一个基于 NRDE 的自编码器,将高深度对数签名知识植入低深度对数签名中。我们表明该编码器成功结合了高深度与低深度对数签名知识,极大稳定了训练过程并提升了模型精度。在使用基准数据集的实验中,就各类分类与预测评价指标而言,我们方法的提升比率最高达 75%。
引用
@article{arxiv.2204.08781,
title = {LORD: Lower-Dimensional Embedding of Log-Signature in Neural Rough Differential Equations},
author = {Jaehoon Lee and Jinsung Jeon and Sheo yon Jhin and Jihyeon Hyeong and Jayoung Kim and Minju Jo and Kook Seungji and Noseong Park},
journal= {arXiv preprint arXiv:2204.08781},
year = {2022}
}
备注
main 9 pages