AutoBSS：一种高效的块堆叠风格搜索算法
计算机视觉与模式识别
2021-03-30 v2 人工智能
机器学习
摘要
神经网络架构设计大多聚焦于新的卷积算子或网络块的特定拓扑结构，很少关注各块的堆叠配置，即块堆叠风格（Block Stacking Style, BSS）。近期研究表明，BSS 也可能对网络产生不可忽略的影响，因此我们设计了一种高效算法来自动搜索它。所提出的方法 AutoBSS 是一种基于贝叶斯优化的新型 AutoML 算法，通过迭代细化和聚类块堆叠风格编码（Block Stacking Style Code, BSSC），能够在少量试验内找到最优 BSS 而无需有偏评估。在 ImageNet 分类任务上，采用我们所搜索 BSS 的 ResNet50/MobileNetV2/EfficientNet-B0 分别达到 79.29%/74.5%/77.79%，大幅优于原始基线。更重要的是，在模型压缩、目标检测和实例分割上的实验结果展示了所提出 AutoBSS 的强泛化能力，并进一步验证了 BSS 对神经网络的不可忽略影响。
引用
@article{arxiv.2010.10261,
title = {AutoBSS: An Efficient Algorithm for Block Stacking Style Search},
author = {Yikang Zhang and Jian Zhang and Zhao Zhong},
journal= {arXiv preprint arXiv:2010.10261},
year = {2021}
}
备注
NeurIPS 2020