中文

O-HAS:同时提升加速性能与开发速度的光学硬件加速器搜索

机器学习 2021-08-18 v1 硬件体系结构 新兴技术

摘要

深度神经网络 (DNN) 的近期突破与极高复杂性激发了对领域专用 DNN 加速器的广泛兴趣,其中光学 DNN 加速器因其实现卓越性能功耗比的空前潜力而尤为前景广阔。然而,光学 DNN 加速器的开发速度远慢于电学 DNN 加速器。一个关键挑战在于,尽管已开发出许多促进电学 DNN 加速器开发的技术,但支持或加速光学 DNN 加速器设计的技术仍鲜有探索,这限制了光学 DNN 加速器可实现的性能与创新开发。为此,我们开发了首个此类框架 O-HAS,首次展示了自动化光学硬件加速器搜索,以同时提升光学 DNN 加速器的加速效率与开发速度。具体而言,我们的 O-HAS 包含两个集成的关键使能组件:(1) O-Cost 预测器,可基于 DNN 模型参数与光学加速器设计,准确且高效地预测光学加速器的能耗与延迟;(2) O-Search 引擎,可自动探索光学 DNN 加速器的庞大设计空间并识别最优加速器(即微架构与算法到加速器映射方法),以最大化目标加速效率。大量实验与消融研究一致验证了我们的 O-Cost 预测器与 O-Search 引擎的有效性,以及 O-HAS 生成的光学加速器的优异效率。

关键词

引用

@article{arxiv.2108.07538,
  title  = {O-HAS: Optical Hardware Accelerator Search for Boosting Both Acceleration Performance and Development Speed},
  author = {Mengquan Li and Zhongzhi Yu and Yongan Zhang and Yonggan Fu and Yingyan Lin},
  journal= {arXiv preprint arXiv:2108.07538},
  year   = {2021}
}

备注

Accepted at ICCAD 2021