BCNet：通过双侧耦合网络搜索网络宽度
计算机视觉与模式识别
2021-05-25 v1
摘要
搜索更紧凑的网络宽度近来成为在硬件约束下部署卷积神经网络（CNNs）时通道剪枝的一种有效方式。为实现该搜索，通常利用一次性超网来高效评估不同网络宽度的性能。然而，现有方法主要遵循一种用于各宽度评估的“单侧增强”（UA）原则，这导致了超网中通道的训练不公平。本文中，我们引入一种称为双侧耦合网络（BCNet）的新超网以解决此问题。在 BCNet 中，每个通道都被公平训练并对等量的网络宽度负责，从而每个网络宽度都能被更准确地评估。此外，我们采用随机互补策略训练 BCNet，并提出先验初始种群采样方法以提升进化搜索的性能。在基准 CIFAR-10 和 ImageNet 数据集上的大量实验表明，我们的方法能取得优于其他基线方法的 SOTA 或具竞争力的性能。而且，我们的方法可通过精炼 NAS 模型的网络宽度进一步提升其性能。例如，在相同 FLOPs 预算下，我们所得 EfficientNet-B0 在 ImageNet 数据集上达到 77.36% 的 Top-1 准确率，超越原始设定性能 0.48%。
引用
@article{arxiv.2105.10533,
title = {BCNet: Searching for Network Width with Bilaterally Coupled Network},
author = {Xiu Su and Shan You and Fei Wang and Chen Qian and Changshui Zhang and Chang Xu},
journal= {arXiv preprint arXiv:2105.10533},
year = {2021}
}
备注
Accepted by CVPR 2021