Coflex：利用稀疏高斯过程增强 HW-NAS 以实现高效可扩展的 DNN 加速器设计
机器学习
2025-08-04 v2
摘要
硬件感知神经网络搜索（HW-NAS）是一种高效的方法，用于自动协同优化神经网络的性能和硬件能源效率，特别适用于开发边缘端的深度神经网络加速器。然而，广泛的搜索空间和高计算成本构成了其实际采用的主要挑战。为此，我们提出了 Coflex，一个新型 HW-NAS 框架，将稀疏高斯过程（SGP）与多目标贝叶斯优化相结合。通过利用稀疏诱导点，Coflex 将 GP 核复杂度从平方降低到与训练样本数呈近线性关系，而不会牺牲优化性能。这使得对大规模搜索空间的可扩展逼近成为可能，显著降低计算开销，同时保持高预测精度。我们在 various benchmarks 上评估了 Coflex 的有效性，重点关注加速器特定的网络架构。我们的实验结果表明，Coflex 在网络准确率和能耗-延迟乘积方面均优于最先进的方法，同时实现了从 1.9 倍到 9.5 倍的计算加速。
引用
@article{arxiv.2507.23437,
title = {Coflex: Enhancing HW-NAS with Sparse Gaussian Processes for Efficient and Scalable DNN Accelerator Design},
author = {Yinhui Ma and Tomomasa Yamasaki and Zhehui Wang and Tao Luo and Bo Wang},
journal= {arXiv preprint arXiv:2507.23437},
year = {2025}
}
备注
Accepted to the 2025 International Conference on Computer-Aided Design (ICCAD); 9 pages, including 6 figures and 7 tables