超越反向传播训练的前馈模型：一种更高效通用逼近器的实用训练工具
神经与进化计算
2007-10-24 v1
摘要
细胞同步循环神经网络 (Cellular SRN) 已被证明是比多层感知机 (MLP) 更强大的函数逼近器。这意味着对于某些问题，MLP 的复杂度会大到令人望而却步，而 SRN 则可在可接受的计算约束下实现所需的映射。复杂循环网络的训练速度对其成功应用至关重要。本工作通过使用扩展卡尔曼滤波 (EKF) 训练网络，改进了先前的结果。我们实现了一个通用的 Cellular SRN，并将其应用于解决两个具有挑战性的问题：二维迷宫导航和连通性问题的一个子集。与早期结果相比，在迷宫导航案例中收敛速度提高了几个数量级，并在连通性案例中展示了卓越的泛化能力。文中讨论了这些改进的意义。
引用
@article{arxiv.0710.4182,
title = {Beyond Feedforward Models Trained by Backpropagation: a Practical Training Tool for a More Efficient Universal Approximator},
author = {Roman Ilin and Robert Kozma and Paul J. Werbos},
journal= {arXiv preprint arXiv:0710.4182},
year = {2007}
}