模型生成模型：面向多样任务与资源约束的快速DNN定制
人工智能
2023-08-30 v1 软件工程
摘要
与通常庞大且统一的基于云的深度学习模型不同，边缘部署的模型通常要求针对特定领域任务与资源受限环境进行定制。由于边缘场景的多样性以及每个场景的训练负载，此类定制过程可能代价高昂且耗时。尽管已分别提出了各种面向快速资源定制与面向任务定制的方法，但同时实现二者具有挑战性。受生成式AI与神经网络模块化可组合性的启发，我们引入NN-Factory，一个一键式框架，用于为多样边缘场景生成定制的轻量模型。其关键思想是使用生成模型直接生成定制模型，而非训练它们。NN-Factory的主要组件包括一个带有预训练模块的模块化超网（可条件激活以完成不同任务）以及一个生成式模块组装器（根据任务与稀疏性要求操控这些模块）。给定边缘场景，NN-Factory可通过搜索最优模块组装策略，高效定制专用于边缘任务且满足边缘资源约束的紧凑模型。基于在不同边缘设备上的图像分类与目标检测任务实验，NN-Factory能够在数秒内生成高质量的任务与资源特定模型，比传统模型定制方法快数个数量级。
引用
@article{arxiv.2308.15003,
title = {Generative Model for Models: Rapid DNN Customization for Diverse Tasks and Resource Constraints},
author = {Wenxing Xu and Yuanchun Li and Jiacheng Liu and Yi Sun and Zhengyang Cao and Yixuan Li and Hao Wen and Yunxin Liu},
journal= {arXiv preprint arXiv:2308.15003},
year = {2023}
}