通过在线聚合对非平稳预测进行记忆视界对冲
机器学习
2026-05-08 v1 机器学习
摘要
我们研究分布偏移下的在线预测，其中输入按时间顺序到达，且结果仅在预测后揭晓。在此设定中，预测器必须在平静状态下保持稳定，并在状态发生偏移时进行适应，而事先并不知道合适的适应记忆。我们提出了 MELO(Memory-hedged Exponentially Weighted Least-Squares Online aggregation，记忆对冲指数加权最小二乘在线聚合)，这是一种与模型无关的方法，可在多个适应尺度上进行对冲：它在多个遗忘因子下用指数加权最小二乘(EWLS)适应专家包装任何非预测性基础预测器池，并使用 MLpol(一种无参数在线聚合规则)聚合原始预测和 EWLS 适应后的预测。在有界条件下，我们建立了确定性预言机不等式，表明该方法的性能可与最佳原始预测器以及基础预测的最佳有界时变仿射组合相竞争，其代价为取决于路径长度的跟踪成本和次线性的聚合开销。我们在 COVID-19 封锁期间的法国全国电力负荷预测中评估了 MELO，未使用任何状态指标、封锁日期或政策协变量。MELO 将总体 RMSE 相比仅使用基础模型的 MLpol 降低了 34.7%，并且取得了比提供了外部 COVID 政策响应协变量的 TabICL 参考更低的总体 RMSE。此外，MELO 仅需轻量级的每步递归更新，无需模型重训练。
引用
@article{arxiv.2605.06541,
title = {Hedging Memory Horizons for Non-Stationary Prediction via Online Aggregation},
author = {Yutong Wang and Yannig Goude and Qiwei Yao},
journal= {arXiv preprint arXiv:2605.06541},
year = {2026}
}
备注
Preprint