实用的逐块神经网络架构生成
计算机视觉与模式识别
2018-05-15 v3 机器学习
摘要
卷积神经网络在计算机视觉领域取得了显著成功。然而，大多数可用的网络架构是手工设计的，通常需要专业知识和精心设计。在本文中，我们提供了一个称为 BlockQNN 的逐块网络生成流水线，它使用带有 epsilon-贪婪探索策略的 Q-Learning 范式自动构建高性能网络。最优网络块由学习智能体构建，该智能体通过顺序训练来选择组件层。我们堆叠该块以构建整个自动生成的网络。为了加速生成过程，我们还提出了分布式异步框架和早停策略。逐块生成带来了独特的优势：(1) 在图像分类上，与手工设计的最先进网络相比，它取得了有竞争力的结果，此外，BlockQNN 生成的最佳网络在 CIFAR-10 上达到了 3.54% 的 top-1 错误率，击败了所有现有的自动生成网络。(2) 同时，它极大地缩减了设计网络的搜索空间，仅需 32 个 GPU 耗时 3 天，(3) 而且，它具有很强的泛化能力，在 CIFAR 上构建的网络在更大规模的 ImageNet 数据集上也表现良好。
引用
@article{arxiv.1708.05552,
title = {Practical Block-wise Neural Network Architecture Generation},
author = {Zhao Zhong and Junjie Yan and Wei Wu and Jing Shao and Cheng-Lin Liu},
journal= {arXiv preprint arXiv:1708.05552},
year = {2018}
}
备注
Accepted to CVPR 2018