异构网络中多样性神经元的的条件激活
神经与进化计算
2018-03-15 v1
摘要
本文提出一种刻画神经元多样性行为的新方案。我们引入条件激活，其中神经元的激活函数由控制信号动态修改。我们将该方法应用于重建人听觉与视觉系统中存在的特殊神经元行为。与由传统神经元模型组成的同构网络相比，集成了所开发模型的异构多层感知机（MLP）在各种隐藏单元数与层数下均同时提升了学习速度与性能。在性能相近时，所提模型显著降低了存储网络参数所需的内存。
引用
@article{arxiv.1803.05006,
title = {Conditional Activation for Diverse Neurons in Heterogeneous Networks},
author = {Albert Lee and Bonnie Lam and Wenyuan Li and Hochul Lee and Wei-Hao Chen and Meng-Fan Chang and Kang. -L. Wang},
journal= {arXiv preprint arXiv:1803.05006},
year = {2018}
}