BATS：二值架构搜索
计算机视觉与模式识别
2020-07-27 v2 机器学习
摘要
本文提出二值架构搜索（BATS, Binary ArchitecTure Search），一种通过神经架构搜索（NAS, Neural Architecture Search）大幅缩小二值神经网络与其实值对应网络之间精度差距的框架。我们表明直接将 NAS 应用于二值域会得到非常差的结果。为缓解此问题，据我们所知，我们首次描述了将 NAS 成功应用于二值域的 3 个关键要素。具体而言，我们（1）引入并设计了一种面向二值的新颖搜索空间，（2）提出了一种控制和稳定所得搜索拓扑的新机制，（3）提出并验证了一系列针对二值网络的新型搜索策略，可加快收敛并降低搜索时间。实验结果证明了所提方法的有效性以及直接在二值空间搜索的必要性。此外，（4）我们在 CIFAR10、CIFAR100 和 ImageNet 数据集上确立了二值神经网络的新 SOTA。代码将发布于 https://github.com/1adrianb/binary-nas
引用
@article{arxiv.2003.01711,
title = {BATS: Binary ArchitecTure Search},
author = {Adrian Bulat and Brais Martinez and Georgios Tzimiropoulos},
journal= {arXiv preprint arXiv:2003.01711},
year = {2020}
}
备注
accepted to ECCV 2020