通过引入放大神经元与衰减神经元改进神经网络
神经与进化计算
2019-05-28 v2
摘要
在本研究中，提出了一种放大神经元和一种衰减神经元，它们可以轻松集成到神经网络中而无需任何显著的额外计算开销。放大神经元的激活输出值被平方，而衰减神经元的值则取其倒数。理论上，当放大神经元置于隐藏层时，神经网络的阶数会增加。我们进行了神经网络的性能评估，以验证放大神经元和衰减神经元能够提升神经网络的性能。数值实验表明，与不含这些神经元的网络相比，包含放大神经元和衰减神经元的神经网络产生了更准确的结果。
引用
@article{arxiv.1905.09574,
title = {Improving Neural Networks by Adopting Amplifying and Attenuating Neurons},
author = {Seongmun Jung and Oh Joon Kwon},
journal= {arXiv preprint arXiv:1905.09574},
year = {2019}
}
备注
8 pages, the figure 6-(b) and (c) were exchanged