ForecastPFN:基于合成数据训练的零样本预测
机器学习
2023-11-06 v1
摘要
绝大多数时间序列预测方法都需要大量的训练数据集。然而,许多现实中的预测应用仅有极少的初始观测,有时仅 40 个或更少。因此,大多数预测方法的适用性在稀疏数据的商业应用中受到限制。尽管近期有针对极少量初始数据(即所谓“零样本”预测)的研究,但其性能因预训练所用数据的不同而不稳定。在本工作中,我们采取不同思路,设计了 ForecastPFN——首个纯粹在新型合成数据分布上训练的零样本预测模型。ForecastPFN 是一种先验数据拟合网络(prior-data fitted network),经训练以近似贝叶斯推断,可在单次前向传播中对新的时间序列数据集做出预测。通过大量实验,我们表明 ForecastPFN 做出的零样本预测比最先进(state-of-the-art)的预测方法更准确且更快,即便其他方法被允许在数百个额外的同分布数据点上进行训练。
引用
@article{arxiv.2311.01933,
title = {ForecastPFN: Synthetically-Trained Zero-Shot Forecasting},
author = {Samuel Dooley and Gurnoor Singh Khurana and Chirag Mohapatra and Siddartha Naidu and Colin White},
journal= {arXiv preprint arXiv:2311.01933},
year = {2023}
}