MAE-DET：在高效目标检测的零样本神经架构搜索中重访最大熵原理
计算机视觉与模式识别
2022-06-16 v5
摘要
在目标检测中，检测骨干网络消耗了超过一半的整体推理成本。近期研究尝试借助神经架构搜索（NAS）优化骨干网络架构以降低该成本。然而，现有的目标检测NAS方法需要数百至数千GPU小时的搜索，使其在快节奏的研发中难以实用。本工作中，我们提出一种新颖的零样本NAS方法来解决该问题。所提方法名为MAE-DET，通过最大熵原理自动设计高效检测骨干网络而无需训练网络参数，将架构设计成本降至近乎为零，同时取得最先进的（SOTA）性能。其内在机制是，MAE-DET最大化检测骨干网络的差分熵，从而在相同计算预算下得到更好的目标检测特征提取器。仅经过一GPU天的全自动设计，MAE-DET即以极少人工干预在多个检测基准数据集上创新了SOTA检测骨干网络。与ResNet-50骨干网络相比，在相同FLOPs/参数量下MAE-DET的mAP高出2.0%，且在相同mAP下于NVIDIA V100上快1.54倍。代码与预训练模型见https://github.com/alibaba/lightweight-neuralarchitecture-search。
引用
@article{arxiv.2111.13336,
title = {MAE-DET: Revisiting Maximum Entropy Principle in Zero-Shot NAS for Efficient Object Detection},
author = {Zhenhong Sun and Ming Lin and Xiuyu Sun and Zhiyu Tan and Hao Li and Rong Jin},
journal= {arXiv preprint arXiv:2111.13336},
year = {2022}
}
备注
Accepted by ICML 2022