NAAS:神经加速器架构搜索
机器学习
2021-05-28 v1 硬件体系结构
摘要
数据驱动的神经网络加速器架构自动设计空间探索对于专用化与生产力而言是理想的。先前的框架侧重于数值架构超参数的尺寸确定,而忽略了对 PE 互连与编译器映射的搜索。为应对该挑战,我们提出神经加速器架构搜索(NAAS),其在一个优化循环中整体搜索神经网络架构、加速器架构与编译器映射。NAAS 将高度匹配的架构与高效映射组合在一起。作为一种数据驱动方法,NAAS 在相同计算资源下于 ImageNet 上以 2.7% 准确率提升实现相较人工设计 Eyeriss 的 4.4 倍 EDP 降低,并提供比仅确定架构超参数尺寸高 1.4 倍至 3.5 倍的 EDP 降低。
引用
@article{arxiv.2105.13258,
title = {NAAS: Neural Accelerator Architecture Search},
author = {Yujun Lin and Mengtian Yang and Song Han},
journal= {arXiv preprint arXiv:2105.13258},
year = {2021}
}
备注
Accepted by DAC'21