CondTSF：数据压缩技术在时间序列预测中的一行插件
机器学习
2024-10-24 v4 人工智能
摘要
数据压缩是一种新兴技术，用于生成可用于训练深度神经网络的小型数据集，以降低训练成本。数据压缩的目标是确保使用合成数据集训练的模型性能与使用完整数据集训练的模型相当。然而，现有方法主要集中在分类任务，使得其适应时间序列预测（TS-预测）提出了挑战。这种挑战源于对合成数据的评估方式不同。在分类中，若使用完整数据集和使用合成数据集训练的模型对相同输入输出相同标签，则认为合成数据经过良好提炼，尽管输出logit分布可能有所差异。相反，在TS-预测中，合成数据提炼效果由两个模型预测之间的距离决定。只有当所有数据点在预测中相似时，才认为合成数据经过良好提炼。因此，TS-预测的评估方法比分类更严格。为缓解这一差距，我们理论分析了数据压缩在TS-预测中的优化目标，提出一种基于分析的新的一行插件，称为用于时间序列预测的数据压缩（CondTSF）。将CondTSF插入先前的数据压缩方法，可减少使用完整数据集和使用合成数据集训练的模型预测之间的距离，从而提升性能。我们在八个常用时间序列数据集上进行了大量实验，CondTSF在所有数据集上均一致提升了所有先前数据压缩方法的性能，尤其在低压缩比时效果更为显著。
引用
@article{arxiv.2406.02131,
title = {CondTSF: One-line Plugin of Dataset Condensation for Time Series Forecasting},
author = {Jianrong Ding and Zhanyu Liu and Guanjie Zheng and Haiming Jin and Linghe Kong},
journal= {arXiv preprint arXiv:2406.02131},
year = {2024}
}
备注
Accepted by NeurIPS 2024, the project can be found at https://github.com/RafaDD/CondTSF