AutoTailor：面向多样边缘设备的自动化高效自适应模型部署
机器学习
2025-12-01 v1
摘要
设备端机器学习已成为新兴移动应用的核心组成部分。通过定制神经网络架构实现自适应模型部署，可为异构设备能力和性能需求提供高效推理。SuperNet 方法通过预训练模型生成大量模型变体，为可行方案。然而，现有框架下的 SuperNet 应用存在模型依赖开发繁琐和硬件感知剖析耗时的局限，限制了实际采用。我们提出 AutoTailor，首个实现端到端 SuperNet 基于自适应模型部署的自动化框架。不同于手动构建 SuperNet，AutoTailor 采用计算图引导的编译方法，自动将用户提供的 ML 模型转化为 SuperNet。为支持高效特化，AutoTailor 集成无学习型延迟与准确性预测器，实现低成本高精度性能预测。扩展评估表明，AutoTailor 将 SuperNet 构建代码量降低 11--27 倍，硬件感知剖析成本至少降低 11 倍，在多样模型与设备上相较于最新方法实现最高 15.60% 绝对准确性提升和 60.03% 延迟降低。
引用
@article{arxiv.2511.22355,
title = {AutoTailor: Automatic and Efficient Adaptive Model Deployment for Diverse Edge Devices},
author = {Mengyang Liu and Chenyu Lu and Haodong Tian and Fang Dong and Ruiting Zhou and Wei Wang and Dian Shen and Guangtong Li and Ye Wan and Li Li},
journal= {arXiv preprint arXiv:2511.22355},
year = {2025}
}