中文

ForecastPFN:基于合成数据训练的零样本预测

机器学习 2023-11-06 v1

摘要

绝大多数时间序列预测方法都需要大量的训练数据集。然而,许多现实中的预测应用仅有极少的初始观测,有时仅 40 个或更少。因此,大多数预测方法的适用性在稀疏数据的商业应用中受到限制。尽管近期有针对极少量初始数据(即所谓“零样本”预测)的研究,但其性能因预训练所用数据的不同而不稳定。在本工作中,我们采取不同思路,设计了 ForecastPFN——首个纯粹在新型合成数据分布上训练的零样本预测模型。ForecastPFN 是一种先验数据拟合网络(prior-data fitted network),经训练以近似贝叶斯推断,可在单次前向传播中对新的时间序列数据集做出预测。通过大量实验,我们表明 ForecastPFN 做出的零样本预测比最先进(state-of-the-art)的预测方法更准确且更快,即便其他方法被允许在数百个额外的同分布数据点上进行训练。

关键词

引用

@article{arxiv.2311.01933,
  title  = {ForecastPFN: Synthetically-Trained Zero-Shot Forecasting},
  author = {Samuel Dooley and Gurnoor Singh Khurana and Chirag Mohapatra and Siddartha Naidu and Colin White},
  journal= {arXiv preprint arXiv:2311.01933},
  year   = {2023}
}