BlockQNN：高效的块级神经网络架构生成
计算机视觉与模式识别
2018-08-17 v1 机器学习
摘要
卷积神经网络在计算机视觉中取得了显著成功。然而，大多数可用的网络架构是手工设计的，通常需要专业知识和精细设计。在本文中，我们提供了一种称为BlockQNN的块级网络生成流程，它使用带有epsilon-greedy探索策略的Q-Learning范式自动构建高性能网络。最优网络块由学习智能体构建，该智能体被训练以顺序选择组件层。我们将该块堆叠以构造整个自动生成的网络。为了加速生成过程，我们还提出了一种分布式异步框架和早停策略。块级生成带来了独特的优势：（1）与手工设计的网络在图像分类上相比取得了最先进的结果，特别地，由BlockQNN生成的最佳网络在CIFAR-10上达到了2.35%的top-1错误率。（2）它在设计网络中大幅缩减了搜索空间，仅用32个GPU花费3天时间。一个更快版本仅用1个GPU在20小时内就能产生可比的结果。（3）它具有很强的泛化性，在CIFAR上构建的网络在更大规模的数据集上也表现良好。最佳网络在ImageNet上取得了极具竞争力的82.0% top-1和96.0% top-5准确率。
引用
@article{arxiv.1808.05584,
title = {BlockQNN: Efficient Block-wise Neural Network Architecture Generation},
author = {Zhao Zhong and Zichen Yang and Boyang Deng and Junjie Yan and Wei Wu and Jing Shao and Cheng-Lin Liu},
journal= {arXiv preprint arXiv:1808.05584},
year = {2018}
}
备注
14 pages, 18 figures