深度神经网络种群中的架构相似性评估
计算机视觉与模式识别
2019-04-23 v1 神经与进化计算
摘要
进化深度智能最近展现出巨大前景，可通过在连续世代中合成日益高效的架构来生成小巧而强大的深度神经网络模型。尽管近期研究表明多父代进化合成的有效性，但直接评估合成过程中网络间的架构相似性以改进父网络选择的工作甚少。在本工作中，我们提出一项初步研究，通过架构簇的重叠百分比来量化架构相似性。结果表明，使用架构对齐（经由基因标记）合成的网络在每一代内保持更高的架构相似性，这可能限制了高效网络架构的搜索空间。
引用
@article{arxiv.1904.09879,
title = {Assessing Architectural Similarity in Populations of Deep Neural Networks},
author = {Audrey Chung and Paul Fieguth and Alexander Wong},
journal= {arXiv preprint arXiv:1904.09879},
year = {2019}
}
备注
3 pages. arXiv admin note: text overlap with arXiv:1811.07966