FBNetV5:一次运行即可进行多任务神经架构搜索
计算机视觉与模式识别
2025-03-31 v3
摘要
神经架构搜索(NAS)已被广泛采用来设计准确且高效的图像分类模型。然而,将 NAS 应用于新的计算机视觉任务仍需付出巨大努力。这是因为:1)以往的 NAS 研究过度侧重于图像分类,而很大程度上忽视了其他任务;2)许多 NAS 工作专注于优化任务特定组件,这些组件无法有利地迁移到其他任务;3)现有的 NAS 方法通常设计为“无代理(proxyless)”的,并且需要大量工作才能与每个新任务的训练流程集成。为应对这些挑战,我们提出了 FBNetV5,一种 NAS 框架,能够以大幅降低的计算成本与人力成本搜索多种视觉任务的神经架构。具体而言,我们设计了:1)一个简单但具有包容性与可迁移性的搜索空间;2)一个与目标任务训练流程解耦的多任务搜索过程;3)一种以与任务数量无关的计算成本同时搜索多个任务架构的算法。我们针对三个基础视觉任务——图像分类、目标检测与语义分割——评估了所提出的 FBNetV5。FBNetV5 在单次搜索运行中搜索到的模型在所有三个任务上均超越了先前的最先进(state-of-the-art)方法:图像分类(例如,与 FBNetV3 相比,在相同 FLOPs 下 ImageNet top-1 准确率提高 1.3%)、语义分割(例如,以 3.6 倍更少的 FLOPs 取得比 SegFormer 高 1.8% 的 ADE20K val. mIoU)、以及目标检测(例如,与 YOLOX 相比,以 1.2 倍更少的 FLOPs 取得高 1.1% 的 COCO val. mAP)。
引用
@article{arxiv.2111.10007,
title = {FBNetV5: Neural Architecture Search for Multiple Tasks in One Run},
author = {Bichen Wu and Chaojian Li and Hang Zhang and Xiaoliang Dai and Peizhao Zhang and Matthew Yu and Jialiang Wang and Yingyan Celine Lin and Peter Vajda},
journal= {arXiv preprint arXiv:2111.10007},
year = {2025}
}