基于剪枝多层感知机与两阶段阻尼最小二乘法的时间序列建模
神经与进化计算
2015-06-16 v1
摘要
多层感知机 (MLP) 定义了一类常用于时间序列 (TS) 建模与预测的人工神经网络。由于其“黑箱”特性，许多研究人员拒绝使用它。此外，该人工智能工具的优化（通常基于测试“所有”配置的穷举法）和学习阶段（通常基于 Levenberg-Marquardt 算法；LMA）是该方法的弱点（穷举性和局部极小值）。这两项任务必须根据每个新研究问题的知识重复进行，使得该过程漫长、费力且缺乏系统的鲁棒性。本文提出了一种剪枝过程。该方法允许在训练阶段执行一种输入选择方法，通过激活（或不激活）节点间连接来验证预测是否得到改善。我们建议迭代使用流行的阻尼最小二乘法来激活输入和神经元。首先对 10% 的学习样本进行一轮处理，以确定显著不为 0 的权重并删除其他权重。然后，基于 LMA 的经典批处理过程与新的 MLP 一起使用。验证是通过 25 个实测气象时间序列完成的，并交叉比较了经典 LMA 与两阶段 LMA 的预测结果。
引用
@article{arxiv.1308.1940,
title = {Time series modeling with pruned multi-layer perceptron and 2-stage damped least-squares method},
author = {Cyril Voyant and Wani W. Tamas and Christophe Paoli and Aurélia Balu and Marc Muselli and Marie Laure Nivet and Gilles Notton},
journal= {arXiv preprint arXiv:1308.1940},
year = {2015}
}