ConvTimeNet：一种用于时间序列分类的预训练深度卷积神经网络
机器学习
2019-05-03 v2 机器学习
摘要
训练深度神经网络通常需细致的超参数调优与大量计算资源。本文中，我们提出 ConvTimeNet（CTN）：一个在多样单变量时间序列分类（TSC）源任务上训练的即用型深度卷积神经网络（CNN）。一经训练，CTN 便可通过使用来自目标任务的少量带标签样本进行微调，轻松适配新的 TSC 目标任务。我们注意到卷积滤波器长度是构建可泛化至跨数据集不同长度时间序列的预训练模型的关键方面。为此，我们在 CTN 的所有卷积层中引入多长度滤波器，以在多个时间尺度上捕获时间特征。我们考虑 UCR TSC Benchmark 中全部 65 个时间序列长度至多 512 点的数据集用于训练和测试 CTN 的可迁移性：我们使用多头部方法在随机选取的 24 个数据集子集上训练 CTN，每个训练数据集对应不同的 softmax 层，并研究所学滤波器在剩余 41 个 TSC 数据集上的泛化性与可迁移性。我们观察到，与现有最先进 TSC 方法相比，使用预训练 CTN 作为后续任务特定微调的起点在分类精度与计算效率上均有显著提升。我们还通过以下方式对 CTN 的工作机制提供定性洞见：i) 分析第一卷积层的激活与滤波器，表明 CTN 中的滤波器具有通用效用；ii) 分析引入多长度决策的 design 决策的影响；iii) 通过遮挡敏感性分析找出影响最终分类决策的时间序列区域。
引用
@article{arxiv.1904.12546,
title = {ConvTimeNet: A Pre-trained Deep Convolutional Neural Network for Time Series Classification},
author = {Kathan Kashiparekh and Jyoti Narwariya and Pankaj Malhotra and Lovekesh Vig and Gautam Shroff},
journal= {arXiv preprint arXiv:1904.12546},
year = {2019}
}
备注
Accepted at IJCNN 2019