HiPPO-KAN:用于时间序列分析的高效KAN模型
机器学习
2024-10-22 v1
摘要
在这项研究中,我们通过将高阶多项式投影(HiPPO)理论整合到Kolmogorov-Arnold网络(KAN)框架中,引入了一种参数高效的模型,该模型在时间序列预测中优于传统模型。这种HiPPO-KAN模型在不增加参数数量的情况下,在长序列数据上实现了优越的性能。实验结果表明,HiPPO-KAN在改变窗口大小和预测范围时保持参数数量恒定,而KAN的参数数量随窗口大小线性增加。令人惊讶的是,尽管HiPPO-KAN模型在增加窗口大小时保持参数数量恒定,但在较大的窗口大小下,其性能显著优于KAN模型。这些结果表明,HiPPO-KAN为时间序列预测提供了显著的参数效率和可扩展性优势。此外,我们解决了时间序列预测模型中常见的滞后问题,即预测未能及时捕捉数据的突然变化。我们通过修改损失函数,直接在HiPPO域中的系数向量上计算MSE来实现这一点。这种调整有效地解决了滞后问题,使得预测能够紧密跟随实际时间序列数据。通过将HiPPO理论融入KAN,本研究展示了一种处理长序列的高效方法,具有改进的预测精度,为大规模时间序列数据的应用提供了实际贡献。
引用
@article{arxiv.2410.14939,
title = {HiPPO-KAN: Efficient KAN Model for Time Series Analysis},
author = {SangJong Lee and Jin-Kwang Kim and JunHo Kim and TaeHan Kim and James Lee},
journal= {arXiv preprint arXiv:2410.14939},
year = {2024}
}
备注
16 pages, 6 figures, 2 tables