生长神经网络架构
机器学习
2021-08-06 v1 神经与进化计算
摘要
我们提出一种新型的自动架构搜索算法。该算法交替进行连接剪枝与神经元添加，且不局限于分层架构。此处架构是一个带有若干权重（以及一些偏置和激活函数）的任意有向图，因此此类网络中可能不存在分层结构。该算法在给定误差内最小化复杂度。我们在通过图像上先前点预测下一点亮度的问题上演示了我们的算法。我们的第二个测试问题是定义黑白图像亮度的二元函数的逼近。在两种情况下，我们优化后的网络均显著优于神经网络架构的标准解法。
引用
@article{arxiv.2108.02231,
title = {Growing an architecture for a neural network},
author = {Sergey Khashin and Ekaterina Shemyakova},
journal= {arXiv preprint arXiv:2108.02231},
year = {2021}
}