神经傅里叶建模：面向时间序列分析的高度紧凑方法
机器学习
2024-10-08 v1 机器学习
摘要
神经时间序列分析传统上聚焦于时域建模，部分方法会 incorporating 相当于傅里叶域表示的频谱特征作为辅助特征。在本工作中，我们将主要关注度转向频率表示，完全直接地在傅里叶域对时间序列数据进行建模。我们引入神经傅里叶建模（Neural Fourier Modelling, NFM），这是一种紧凑且强大的解决方案。NFM 基于傅里叶变换（FT）的两个关键性质：(i) 将有限长度时间序列建模为傅里叶域中的函数，将其视为函数空间中的连续时间元素；(ii) 在傅里叶域内进行数据操作（如重采样和时间跨度扩展）。我们将傅里叶域数据操作重新解释为频率外推和插值，将其作为 NFM 的核心学习机制，适用于各种任务。为支持带有谱先验的灵活频率扩展和有效的频率表示调制，我们提出两种学习模块：可学习频率标记（Learnable Frequency Tokens, LFT）和隐式神经傅里叶滤波器（Implicit Neural Fourier Filters, INFF）。这些模块使得在傅里叶域内实现紧凑且富有表现力的建模成为可能。广泛的实验表明，NFM 在广泛的任务（预测、异常检测和分类）中实现了最先进的性能，包括以前在测试时面临 previously unseen 采样率的挑战性时间序列情景。此外，NFM 高度紧凑，每个任务仅需少于 4 万参数，时间序列长度为 100 到 16K。
引用
@article{arxiv.2410.04703,
title = {Neural Fourier Modelling: A Highly Compact Approach to Time-Series Analysis},
author = {Minjung Kim and Yusuke Hioka and Michael Witbrock},
journal= {arXiv preprint arXiv:2410.04703},
year = {2024}
}
备注
Submitted to conference (currently under review)