利用动态损失加权提升预测稳定性改进
机器学习
2025-01-22 v2 机器学习
摘要
滚动起点预测不稳定性是指由于新数据点的出现而更新预测时，对特定时期的预测产生的变异性。最近，针对单变量时间序列点预测的N-BEATS模型提出了一种扩展，将预测稳定性作为除准确性之外的额外优化目标。研究表明，通过最小化包含预测误差和预测不稳定性分量的复合损失函数，并使用静态超参数控制稳定性的影响，可以在不损害准确性的情况下获得更稳定的预测。在本文中，我们通过实验研究了应用动态损失加权算法（在训练过程中改变损失权重）是否能在不牺牲准确性的情况下进一步提高稳定性。我们证明，现有的动态损失加权方法可以实现这一目标，并提供了关于其原因的见解。此外，我们提出了一种随机加权方法的扩展——任务感知随机加权——该方法也能实现这一目标。
引用
@article{arxiv.2409.18267,
title = {Using dynamic loss weighting to boost improvements in forecast stability},
author = {Daan Caljon and Jeff Vercauteren and Simon De Vos and Wouter Verbeke and Jente Van Belle},
journal= {arXiv preprint arXiv:2409.18267},
year = {2025}
}