面向时间序列的在线持续学习：一种自然得分驱动方法
机器学习
2026-01-21 v1 人工智能
机器学习
摘要
在线持续学习（OCL）方法能够适应不断变化的环境而不遗忘过去的知识。类似地，在线时间序列预测（OTSF）是一个现实世界问题，其中数据随时间演化，成功取决于快速适应和长期记忆。事实上，时变和体制切换预测模型已被广泛研究，为在这些场景下使用 OCL 提供了强有力的依据。基于近期将 OCL 应用于 OTSF 的工作，本文旨在加强时间序列方法与 OCL 之间的理论与实践联系。首先，我们将神经网络优化重新表述为参数滤波问题，证明自然梯度下降是一种得分驱动方法，并证明其信息论最优性。然后，我们表明在自然梯度之外使用 Student-t 似然可诱导有界更新，从而提高对异常值的鲁棒性。最后，我们引入自然得分驱动回放（NatSR），它将我们的鲁棒优化器与回放缓冲区和动态尺度启发式方法相结合，以改善体制漂移时的快速适应。实证结果表明，NatSR 比更复杂的 SOTA 方法取得了更强的预测性能。
引用
@article{arxiv.2601.12931,
title = {Online Continual Learning for Time Series: a Natural Score-driven Approach},
author = {Edoardo Urettini and Daniele Atzeni and Ioanna-Yvonni Tsaknaki and Antonio Carta},
journal= {arXiv preprint arXiv:2601.12931},
year = {2026}
}