Detach-ROCKET: 基于随机卷积核的时间序列分类序贯特征选择方法
机器学习
2024-06-25 v3
摘要
时间序列分类(TSC)在医学、环境科学与金融等领域至关重要,支撑诸如疾病诊断、异常检测与股价分析等任务。尽管循环神经网络与InceptionTime等机器学习模型在众多应用中取得成功,但它们可能因计算需求面临可扩展性问题。近来,ROCKET作为一种高效替代方案崭露头角,通过利用大量从时间序列数据随机生成的特征实现了最先进的性能并简化了训练。然而,这些特征中许多冗余或非信息性,增加了计算负载并损害泛化能力。在此我们引入序贯特征剥离(Sequential Feature Detachment, SFD)以识别并剪枝基于ROCKET的模型(如ROCKET、MiniRocket与MultiRocket)中的非必要特征。SFD利用模型系数估计特征重要性,且无需复杂超参数调优即可处理大规模特征集。在UCR档案上的测试表明,SFD仅使用原始特征10%即可生成测试精度更优的模型。我们将这些剪枝后的模型命名为Detach-ROCKET。我们还提出了一种端到端流程以确定特征数量与模型精度间的最优平衡。在最大的二分类UCR数据集上,Detach-ROCKET在减少98.9%特征的同时将测试精度提升0.6%。通过在不牺牲精度下显著缩减模型规模,我们的方法提升了计算效率并有助于模型可解释性。我们相信Detach-ROCKET将成为处理时间序列数据的研究人员与实践者的有力工具,他们可在 \url{https://github.com/gon-uri/detach_rocket} 找到该模型的用户友好实现。
引用
@article{arxiv.2309.14518,
title = {Detach-ROCKET: Sequential feature selection for time series classification with random convolutional kernels},
author = {Gonzalo Uribarri and Federico Barone and Alessio Ansuini and Erik Fransén},
journal= {arXiv preprint arXiv:2309.14518},
year = {2024}
}
备注
18 pages, 5 figures, 3 tables