面向时间序列分类的迁移学习
机器学习
2019-01-29 v1 人工智能
机器学习
摘要
深度神经网络的迁移学习是指先在源数据集上训练一个基础网络，然后将学习到的特征（网络的权重）迁移到第二个网络上，并在目标数据集上训练该网络。这一思想已在图像识别和物体定位等许多计算机视觉任务中证明能够提升深度神经网络的泛化能力。除这些应用外，深度卷积神经网络（CNN）近来也在时间序列分类（TSC）领域受到关注。然而，与图像识别问题不同，针对 TSC 任务的迁移学习技术尚未得到深入研究。这令人意外，因为若使用预训练神经网络进行微调而非从头训练，TSC 深度学习模型的准确率有望提升。本文通过研究如何迁移深度 CNN 用于 TSC 任务来填补这一空白。为评估迁移学习的潜力，我们使用 UCR 档案进行了大量实验，该档案是包含 85 个数据集的最大公开 TSC 基准。对于档案中的每个数据集，我们预训练一个模型并在其余数据集上微调，从而得到 7140 个不同的深度神经网络。这些实验表明，迁移学习会根据用于迁移的数据集而改善或恶化模型的预测。因此，为预测给定目标数据集的最佳源数据集，我们提出一种基于动态时间规整（Dynamic Time Warping）度量数据集间相似性的新方法。我们描述了该方法如何引导迁移选择最佳源数据集，从而在 85 个数据集中有 71 个上实现准确率提升。
引用
@article{arxiv.1811.01533,
title = {Transfer learning for time series classification},
author = {Hassan Ismail Fawaz and Germain Forestier and Jonathan Weber and Lhassane Idoumghar and Pierre-Alain Muller},
journal= {arXiv preprint arXiv:1811.01533},
year = {2019}
}
备注
Accepted at IEEE International Conference on Big Data 2018