利用生物突触强度分布合成深度神经网络架构
神经与进化计算
2017-07-04 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
在这项工作中,我们开展了一项探索性研究,利用生物突触强度分布合成深度神经网络,以及不同分布对建模性能的潜在影响,特别是在与小型数据集相关的场景中。令人惊讶的是,卷积层突触强度抽取自生物启发分布(如对数正态或相关中心-环绕分布)的 CNN 表现相对较好,这表明有可能设计不需要许多数据样本学习的深度神经网络架构,并且可以在保持或提升建模性能的同时避开当前的训练过程。
引用
@article{arxiv.1707.00081,
title = {Synthesizing Deep Neural Network Architectures using Biological Synaptic Strength Distributions},
author = {A. H. Karimi and M. J. Shafiee and A. Ghodsi and A. Wong},
journal= {arXiv preprint arXiv:1707.00081},
year = {2017}
}