用于神经网络时间序列数据预处理的扩展深度自适应输入归一化
机器学习
2025-03-26 v2 机器学习
摘要
数据预处理是任何机器学习流程的关键部分,并对性能和训练效率有显著影响。当使用深度神经网络进行时间序列预测与分类时这一点尤为明显:真实世界时间序列数据常表现出多模态、偏态和离群值等不规则性,若未充分处理这些特征,模型性能会迅速退化。本工作中,我们提出 EDAIN(扩展深度自适应输入归一化)层,一种新颖的自适应神经层,以端到端方式学习如何为给定任务适当归一化不规则时间序列数据,而非使用固定归一化方案。这是通过其未知参数与深度神经网络利用反向传播同时优化实现的。我们使用合成数据、信用违约预测数据集和大规模限价订单簿基准数据集进行的实验表明,与常规归一化方法及现有自适应时间序列预处理层相比,EDAIN 层具有更优性能。
引用
@article{arxiv.2310.14720,
title = {Extended Deep Adaptive Input Normalization for Preprocessing Time Series Data for Neural Networks},
author = {Marcus A. K. September and Francesco Sanna Passino and Leonie Goldmann and Anton Hinel},
journal= {arXiv preprint arXiv:2310.14720},
year = {2025}
}