ESM：面向硬件感知的神经网络结构搜索有效替代模型框架
机器学习
2025-08-05 v1
摘要
硬件感知神经网络结构搜索 (NAS) 是为资源受限设备设计高效深度神经网络 (DNN) 的最具前景的技术之一。替代模型在硬件感知 NAS 中发挥关键作用，因为它们能够高效预测不同候选模型在目标硬件设备上的性能特征（例如推理延迟和能耗）。本文我们关注构建硬件感知的延迟预测模型。我们研究了不同类型的替代模型，并概述了其优势与不足。我们进行了系统性分析，以了解不同因素对这些模型预测准确性的影响，旨在评估模型设计过程中每个阶段的重要性，并识别设计/训练有效估计模型的方法和策略，特别是针对 GPU 驱动设备。基于从分析中获得的见解，我们提出了一个整体框架，能够可靠地生成数据集并高效地生成模型，考虑到模型生成管道中不同阶段的总体成本。
引用
@article{arxiv.2508.01505,
title = {ESM: A Framework for Building Effective Surrogate Models for Hardware-Aware Neural Architecture Search},
author = {Azaz-Ur-Rehman Nasir and Samroz Ahmad Shoaib and Muhammad Abdullah Hanif and Muhammad Shafique},
journal= {arXiv preprint arXiv:2508.01505},
year = {2025}
}