在深度神经网络演化合成过程中缓解架构错配
计算机视觉与模式识别
2018-11-21 v1 人工智能
神经与进化计算
摘要
演化深度智能近期已展现出巨大潜力,可通过在连续代中有机合成日益高效的架构来生成小巧而强大的深度神经网络模型。然而,现有的演化合成过程允许父网络在忽略架构对齐的情况下进行交配,从而导致网络结构错配。我们借助基因标记系统,对演化合成过程中架构对齐的影响进行了初步研究。令人惊讶的是,使用基因标记方法合成的网络架构在性能精度和存储大小上的下降更为缓慢;但所得网络在规模和性能精度上与无基因标记网络相当。此外,我们推测基因标记合成的网络其网络变异性有明显降低,这表明强制同类交配策略可能限制了可能网络架构搜索空间的探索。
引用
@article{arxiv.1811.07966,
title = {Mitigating Architectural Mismatch During the Evolutionary Synthesis of Deep Neural Networks},
author = {Audrey Chung and Paul Fieguth and Alexander Wong},
journal= {arXiv preprint arXiv:1811.07966},
year = {2018}
}
备注
5 pages