神经网络架构代码设计包(SNAC-Pack)
机器学习
2026-05-18 v1 人工智能
高能物理 - 实验
摘要
神经网络架构搜索(NAS)是一种自动化模型设计的强大方法,但现有方法通常仅优化准确率,或依赖与硬件成本关联性较差的代理指标,如位运算(BOPs)。这一差距在FPGA部署方面尤为突出,因为成本由查找表、DSP、翻转闸存、BRAM和延迟等多维预算主导。我们提出了神经网络架构代码设计包(SNAC-Pack),这是一种面向硬件感知神经网络架构代码设计和端到端FPGA部署的开源AutoML框架。SNAC-Pack运行基于Optuna和NSGA-II的多目标全局搜索,将试验加载到共享SQLite存储库中,实现跨计算节点的并行工作。硬件代理模型输出每个试验的资源和延迟估计,避免了搜索循环中原本主导的综合成本。随后,局部搜索阶段结合量化感知训练(QAT)和迭代幅度修剪进行压缩。最终模型通过hls4ml Python库综合到FPGA固件。YAML配置和可选的代理前端让用户无需修改框架即可在新数据集上运行管道。我们在射流分类和超导量子比特读出上演示了SNAC-Pack,发现紧凑的架构在任务指标上匹配或超过强基准,同时降低了FPGA资源利用率,在量子比特读出案例中,将设计空间探索从数月的手动微调缩短到小时级的自动搜索。
引用
@article{arxiv.2605.16138,
title = {Surrogate Neural Architecture Codesign Package (SNAC-Pack)},
author = {Jason Weitz and Dmitri Demler and Benjamin Hawks and Aaron Wang and Nhan Tran and Javier Duarte},
journal= {arXiv preprint arXiv:2605.16138},
year = {2026}
}
备注
15 Pages, 3 Figures, AutoML (International Conference on Automated Machine Learning) 2026