深入探究深度学习时间序列分类中的 LITE
机器学习
2025-01-24 v2
摘要
深度学习模型已被证明是时间序列分类(TSC)的强大解决方案。SOTA 架构虽然在 UCR 和 UEA 档案上产生了有前景的结果,但具有大量可训练参数。这可能导致漫长的训练时间、高 CO2 排放、高功耗以及每秒浮点运算次数(FLOPS)的可能增加。在本文中,我们提出了一种用于 TSC 的新架构,即带有加速技术的轻量级 Inception(LITE),其参数数量仅为 SOTA InceptionTime 模型的 2.34%,同时保持了性能。该架构由于使用了深度可分离卷积(DWSC),仅有 9,814 个可训练参数,并通过三种技术进行加速:多路复用、自定义滤波器和膨胀卷积。在 UCR 上训练的 LITE 架构比 InceptionTime 快 2.78 倍,消耗的 CO2 和功耗低 2.79 倍。为了评估所提出架构在多变量时间序列数据上的性能,我们调整了 LITE 以处理多变量时间序列,我们称该版本为 LITEMV。为了将理论应用于实践,我们还使用 LITEMV 对代表人类康复运动的多变量时间序列进行了实验,表明 LITEMV 不仅是最有效的模型,而且在 Kimore 数据集(一个基于骨架的人类康复运动数据集)上的该应用中性能最佳。此外,为了解决 LITEMV 的可解释性问题,我们使用类激活图进行了一项研究,以了解模型在评估期间做出的分类决策。
引用
@article{arxiv.2409.02869,
title = {Look Into the LITE in Deep Learning for Time Series Classification},
author = {Ali Ismail-Fawaz and Maxime Devanne and Stefano Berretti and Jonathan Weber and Germain Forestier},
journal= {arXiv preprint arXiv:2409.02869},
year = {2025}
}