GANDSE:基于生成对抗网络的神经网络加速器设计空间探索
机器学习
2022-11-22 v2 硬件体系结构
摘要
随着深度学习的普及,深度学习的硬件实现平台受到越来越多的关注。与在软件层执行深度学习算法的 CPU 或 GPU 等通用设备不同,神经网络硬件加速器直接执行算法,以获得更高的能效与性能提升。然而,随着深度学习算法频繁演进,设计硬件加速器的工程工作量与成本大幅增加。为在节省成本的同时提升设计质量,人们提出了神经网络加速器设计自动化,其中使用设计空间探索算法在设计空间内自动搜索优化的加速器设计。然而,神经网络加速器日益增加的复杂性使得设计空间的维度不断增加。因此,以往的设计空间探索算法已不足以有效找到优化设计。本工作中,我们提出一个名为 GANDSE 的神经网络加速器设计自动化框架,重新审视设计空间探索问题,并提出了一种基于生成对抗网络(GAN)的新方法来支持高维大设计空间的优化探索。实验表明,与包括多层感知机与深度强化学习的方法相比,GANDSE 能在可忽略的时间内找到更优的设计。
引用
@article{arxiv.2208.00800,
title = {GANDSE: Generative Adversarial Network based Design Space Exploration for Neural Network Accelerator Design},
author = {Lang Feng and Wenjian Liu and Chuliang Guo and Ke Tang and Cheng Zhuo and Zhongfeng Wang},
journal= {arXiv preprint arXiv:2208.00800},
year = {2022}
}
备注
Published in ACM Transactions on Design Automation of Electronic Systems