神经网络中的极大值神经元与符合神经元
计算机视觉与模式识别
2021-10-05 v1
摘要
网络设计一直是机器学习中的核心课题。大量工作致力于通过人工探索以及自动化神经架构搜索来创建高效架构。然而,当今的架构尚未考虑神经元的多样性以及具有特定处理功能的神经元的存在。在本工作中,我们使用神经架构搜索优化包含极大值神经元和符合神经元模型的网络,并分析优化后网络的结构、操作和神经元,以开发一个信号处理的 ResNet。所开发的网络在多种数据集上平均准确率提升 2%、网络规模缩小 25%,展示了神经元功能在创建紧凑高效网络中的重要性。
引用
@article{arxiv.2110.01218,
title = {Max and Coincidence Neurons in Neural Networks},
author = {Albert Lee and Kang L. Wang},
journal= {arXiv preprint arXiv:2110.01218},
year = {2021}
}