DENSER:深度演化网络结构表示
神经与进化计算
2018-11-28 v3
摘要
深度演化网络结构表示(DENSER)是一种利用演化计算自动设计人工神经网络(ANNs)的新方法。该算法不仅搜索最佳网络拓扑(如层数、层类型),还调节超参数,例如学习参数或数据增强参数。自动设计通过使用具有两个不同层次的表示来实现,其中外层编码网络的总体结构(即层的序列),内层编码与每层相关的参数。所允许的层与超参数值范围通过人类可读的上下文无关文法来定义。DENSER 被用于演化用于 CIFAR-10 的 ANNs,获得了 94.13% 的平均测试准确率。为 CIFAR-10 演化的网络在 MNIST、Fashion-MNIST 和 CIFAR-100 上进行了测试;结果极具竞争力,在 CIFAR-100 上我们报告了 78.75% 的测试准确率。据我们所知,我们的 CIFAR-100 结果是旨在自动设计卷积神经网络(CNNs)的方法所生成模型中性能最高的,并且属于手动设计与精细调节的 CNNs 中最好的结果之一。
引用
@article{arxiv.1801.01563,
title = {DENSER: Deep Evolutionary Network Structured Representation},
author = {Filipe Assunção and Nuno Lourenço and Penousal Machado and Bernardete Ribeiro},
journal= {arXiv preprint arXiv:1801.01563},
year = {2018}
}