NASOA：基于模型动物园实现更快速的任务导向在线微调
计算机视觉与模式识别
2021-08-10 v1 人工智能
摘要
从预训练的ImageNet模型进行微调一直是各类计算机视觉任务中一种简单、有效且流行的方法。常见的微调做法是采用固定的预训练模型和默认超参数设置，而二者均未针对特定任务和时间约束进行优化。此外，在云计算或GPU集群中，任务以流的形式顺序到达，更快速的任务导向在线微调是一种更受青睐且现实的策略，可节省资金、能耗与CO2排放。本文提出一种名为NASOA的神经架构搜索与在线适配联合框架，旨在根据用户需求实现更快速的任务导向微调。具体而言，NASOA首先采用离线NAS识别一组训练高效的网络以构成预训练模型动物园；我们提出一种新颖的块级与宏级联合搜索空间，以实现灵活高效的搜索。随后，通过基于过往任务积累经验的自适应模型估算微调性能，提出一种在线调度生成器，以一次性方式为各目标任务挑选最合适模型并生成个性化训练机制。所得模型动物园比SOTA模型训练更高效，例如比RegNetY-16GF快6倍，比EfficientNetB3快1.7倍。在多数据集上的实验还表明，NASOA取得了明显更优的微调结果，即在各类约束与任务下比RegNet系列最佳性能提升约2.1%准确率；相比BOHB快40倍。
引用
@article{arxiv.2108.03434,
title = {NASOA: Towards Faster Task-oriented Online Fine-tuning with a Zoo of Models},
author = {Hang Xu and Ning Kang and Gengwei Zhang and Chuanlong Xie and Xiaodan Liang and Zhenguo Li},
journal= {arXiv preprint arXiv:2108.03434},
year = {2021}
}
备注
Accepted by ICCV 2021