时间序列预测中神经网络的视界激活映射
机器学习
2026-05-29 v4 泛函分析
摘要
时间序列预测的神经网络依赖误差指标和特定于体系结构的可解释性方法进行模型选择，这些方法不适用于来自不同模型族的模型。为了对不受不同层类型限制的先进模型族进行可解释性，我们引入了视界激活映射（Horizon Activation Mapping, HAM），这是一种受 grad-CAM 启发的可视化可解释性技术，它使用梯度范数平均值来研究 grad-CAM 研究注意力图的时域子序列。我们引入因果和反因果模式，以计算每个时间步处子序列的梯度更新范数平均值，并引入比例符号，表示这些范数平均值的均匀分布。关于批量大小、早停、训练-验证-测试划分、架构选择、单变量预测和 dropout 对 HAM 中子序列和性能的优化景观研究，表明批量大小在活动上似乎指示了是否存在一种相对于彼此在每个 epoch 中的指数近似。包括 MLP-based CycleNet、N-Linear、N-HITS、基于自注意力的 FEDformer、Pyraformer、基于 SSM 的 SpaceTime 和基于扩散的 Multi-Resolution DDPM 在不同视界大小下训练于 ETTm2 数据集上的模型用于 HAM 图。NHITS 的神经近似定理和 SpaceTime 的指数自回归活动可归因于其在训练、验证和测试集上的 HAM 图中的趋势。总体而言，HAM 可用于粒细模型选择、验证集选择和跨不同神经网络模型族进行比较。
引用
@article{arxiv.2601.02094,
title = {Horizon Activation Mapping for Neural Networks in Time Series Forecasting},
author = {Krupakar Hans and V A Kandappan},
journal= {arXiv preprint arXiv:2601.02094},
year = {2026}
}
备注
Accepted and Presented in International Conference on Optimization and Learning (OLA2026) for publication in LNCS