一种用于反向传播神经网络权重初始化的贝叶斯方法及其在字符识别中的应用
机器学习
2020-04-07 v1 机器学习
摘要
神经网络训练算法的收敛速度受权重初始化的严重影响。本文提出一种用于反向传播神经网络权重初始化的原创算法，并将其应用于字符识别。该初始化方法主要基于对卡尔曼滤波的定制化改造，将其转化为贝叶斯统计术语。在此背景下采用计量学方法，将权重视为由相互依赖的正态随机变量建模的测量值。通过报告和讨论仿真试验结果来展示算法性能，并将结果与随机权重初始化及其他方法进行比较。所提方法在反向传播训练算法中展现出更优的收敛速度。
引用
@article{arxiv.2004.01875,
title = {A Bayesian approach for initialization of weights in backpropagation neural net with application to character recognition},
author = {Nadir Murru and Rosaria Rossini},
journal= {arXiv preprint arXiv:2004.01875},
year = {2020}
}