中文

使用四元数神经网络与四元数反向传播的时间序列压缩

机器学习 2024-03-26 v2

摘要

我们提出了一种新颖的四元数时间序列压缩方法,将长时间序列划分为数据段,提取这些数据块的最小值、最大值、均值和标准差作为代表性特征,并将其封装在四元数中,从而生成四元数值时间序列。该时间序列使用四元数神经网络层进行处理,旨在通过 Hamilton 乘积保持这些特征之间的关系。为了训练该四元数神经网络,我们利用 GHR 微积分推导了四元数反向传播,这是在四元数空间中实现有效乘积和链式法则所必需的。此外,我们研究了所推导的更新规则与自动微分之间的联系。我们将提出的压缩方法应用于 Tennessee Eastman Dataset,在两种设置下使用压缩数据进行故障分类:一种是全监督设置,另一种是半监督的对比学习设置。在这两种情况下,我们都能够优于实数对应方法以及两个基线模型:一个以未压缩时间序列作为输入,另一个使用均值进行常规下采样。此外,我们将 SimCLR-TS 设定的分类基准从 81.43% 提高到了 83.90%。

关键词

引用

@article{arxiv.2403.11722,
  title  = {Time Series Compression using Quaternion Valued Neural Networks and Quaternion Backpropagation},
  author = {Johannes Pöppelbaum and Andreas Schwung},
  journal= {arXiv preprint arXiv:2403.11722},
  year   = {2024}
}