DeepLABNet：具有完全可学习基函数的深度径向基网络端到端学习
神经与进化计算
2019-11-22 v1 计算机视觉与模式识别
机器学习
摘要
从全连接神经网络到卷积神经网络，神经网络中学习到的参数主要局限于线性参数（例如卷积滤波器）。非线性函数（例如激活函数）在很大程度上保持无参数、在训练中静态，且设计上变化有限，近年少数例外除外。径向基函数（RBF）网络被深度学习界普遍忽视，其提供了一种有趣机制，可在网络中对线性参数之外学习更复杂的非线性激活函数。然而，由于以可处理且稳定的方式将 RBF 集成到更复杂的深度神经网络架构中存在困难，对 RBF 网络的兴趣随时间减退。在这项工作中，我们提出一种新颖方法，能够以自动且可处理的方式端到端学习具有完全可学习激活基函数的深度 RBF 网络。我们证明，这种使深度神经网络中使用可学习激活基函数的方法（我们称之为 DeepLABNet）是复杂网络架构中自动化激活函数学习的有效工具。
引用
@article{arxiv.1911.09257,
title = {DeepLABNet: End-to-end Learning of Deep Radial Basis Networks with Fully Learnable Basis Functions},
author = {Andrew Hryniowski and Alexander Wong},
journal= {arXiv preprint arXiv:1911.09257},
year = {2019}
}
备注
10 pages