如果我们让预测学会遗忘会怎样？用于跨变量依赖关系的稀疏瓶颈
机器学习
2026-05-12 v1 人工智能
摘要
多变量时间序列预测在许多现实世界系统中至关重要，因此对跨通道依赖关系进行建模是必不可少的。尽管现有方法通过增强表示和跨通道交互来提高整体准确性，但在特定条件下可靠地捕获变量间依赖关系仍然具有挑战性。我们观察到，真实数据中的依赖关系通常是状态依赖且带有噪声的；在这种情况下，密集交互会放大虚假相关性并导致表示过度平滑，这可能在特定场景下产生不可靠的预测。受此启发，我们提出了MS-FLOW，一个稀疏瓶颈框架，它将变量间交互显式建模为容量受限的信息流。具体来说，MS-FLOW用选择性稀疏路由取代了全连接通信，仅保留少数关键的依赖路径，并在严格通信预算下注入跨变量信号，从而抑制冗余连接和虚假相关性的传播。大量实验表明，MS-FLOW学习了更可靠的多变量相关性，在12个真实世界基准上实现了最先进的预测精度，同时产生了更少但更可靠的依赖关系，将多变量预测从“更多交互”转变为“更有效的交互”。
引用
@article{arxiv.2605.08289,
title = {What If We Let Forecasting Forget? A Sparse Bottleneck for Cross-Variable Dependencies},
author = {Fan Zhang and Shiming Fan and Hua Wang},
journal= {arXiv preprint arXiv:2605.08289},
year = {2026}
}