面向FPGA的自适应CNN编译器
硬件体系结构
2025-06-12 v3
摘要
我们引入ForgeMorph,一个全栈式编译器,用于FPGA上的自适应CNN部署与重新配置,集设计时优化与运行时可重构于一体。编译时,NeuroForge引擎进行约束驱动的设计空间探索,生成在用户定义的延迟和资源预算下均衡-optimal的RTL映射。与现有FPGA编译器依赖静态调度和手动调谐不同,NeuroForge利用分析性能模型和多目标遗传算法,高效搜索大规模配置空间,提出高度优化的硬件实现。在运行时,NeuroMorph模块可在无需重新部署的情况下动态重新配置网络宽度和深度。这一能力得益于一种新颖的训练策略DistillCycle,该策略通过层次化知识蒸馏同时训练完整模型及其子网络。因此,每个执行路径即使在激进的资源和功耗限制下也能保持准确度。我们在Zynq-7100上使用自定义和基准模型(包括MobileNetV2、ResNet-50、SqueezeNet和YOLOv5)演示了ForgeMorph。该系统在运行时实现了最高50倍的延迟降低和32%的功耗降低,同时匹配或超越了最先进的编译器的效率。ForgeMorph为需要灵活性、性能和硬件效率的部署场景提供了统一解决方案。
关键词
引用
@article{arxiv.2504.08534,
title = {An FPGA Compiler for On-the-Fly Adaptive CNN Deployment and Reconfiguration},
author = {Alaa Mazouz and Duc Han Le and Van-Tam Nguyen},
journal= {arXiv preprint arXiv:2504.08534},
year = {2025}
}
备注
Submitted to IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems