演化具有信息流与连接代价最优平衡的神经网络
神经与进化计算
2022-03-15 v4 信息论
机器学习
math.IT
摘要
演化神经网络(NNs)近来作为一条可能更为成功的替代路径受到越来越多的关注。与其他方法相比，它具有诸多优势，例如可学习神经网络的架构。然而，极其庞大的搜索空间以及许多复杂相互作用部分的存在仍构成主要障碍。近期人们研究了多种准则以帮助引导算法并缩减巨大的搜索空间。近来，将网络科学的见解引入以改进神经网络设计的研究日益增长。本文中，我们研究演化具有真实世界网络最基特征之一的神经网络架构，即连接代价与信息流之间的最优平衡。我们评估了代表该平衡的不同度量的性能，并展示了在三个数据集上施加更多朝向该平衡的选择压力所带来的准确率提升。
引用
@article{arxiv.2202.06163,
title = {Evolving Neural Networks with Optimal Balance between Information Flow and Connections Cost},
author = {Abdullah Khalili and Abdelhamid Bouchachia},
journal= {arXiv preprint arXiv:2202.06163},
year = {2022}
}