中文

HopCast:自回归动力学模型的校准

机器学习 2025-12-29 v5

摘要

深度学习模型通常被训练以近似可用微分方程建模的动力学系统。许多此类模型被优化以进行单步预测;如果预测模型能够量化不确定性(例如 Deep Ensembles),此类方法可产生校准的单步预测。在推理阶段,多步预测通过自回归生成,这需要可靠的不确定性传播方法以产生校准的多步预测。本工作引入了一种名为 \hop{} 的替代 Predictor-Corrector 方法,该方法使用 Modern Hopfield Networks (MHN) 来学习近似动力学系统的确定性 Predictor 的误差。Corrector 基于自回归过程中任意时间步的上下文状态,为 Predictor 的输出预测一组误差。与没有不确定性传播的基线方法相比,这组误差产生了更锐利且校准良好的预测区间,并具有更高的预测精度。我们在一组动力学系统中评估了校准和预测性能。本工作也是首次基于校准误差对现有不确定性传播方法进行基准测试。

关键词

引用

@article{arxiv.2501.16587,
  title  = {HopCast: Calibration of Autoregressive Dynamics Models},
  author = {Muhammad Bilal Shahid and Cody Fleming},
  journal= {arXiv preprint arXiv:2501.16587},
  year   = {2025}
}