用于多层感知机的混合优化反向传播学习算法
神经与进化计算
2012-12-20 v1
摘要
基于使用 Delta 法或梯度下降法的通用反向传播学习的标准神经网络存在一些严重缺陷，如误差 - 权重目标函数优化不佳、学习率低、不稳定等。本文介绍了一种混合监督反向传播学习算法，该算法利用拟牛顿法对误差目标函数进行无约束优化的信赖域方法。这种优化为多层感知机在学习阶段最小化学习误差提供了更准确的权重更新系统。[13][14][15] 本文使用增强线搜索来寻找满足 Wolfe 条件的点。该混合反向传播算法具有强大的全局收敛特性，且在实践中稳健高效。
引用
@article{arxiv.1212.1752,
title = {Hybrid Optimized Back propagation Learning Algorithm For Multi-layer Perceptron},
author = {Mriganka Chakraborty and Arka Ghosh},
journal= {arXiv preprint arXiv:1212.1752},
year = {2012}
}
备注
Accepted for publish in 18th December, 2012,International Journal of Computer Applications, Foundation of Computer Science, New York, USA