中文

You Only Search Once:一种用于单阶段 DNN/加速器协同设计的快速自动化框架

信号处理 2020-05-15 v1

摘要

DNN/加速器协同设计在改善 QoR 和性能方面已显示出巨大潜力。典型方法将设计流程分为两个阶段:(1) 设计具有高精度的特定应用 DNN 模型;(2) 考虑 DNN 特定特征构建加速器。然而,在构建特定的基于神经网络的系统时,它可能无法保证结合精度目标与其他硬件相关约束(例如延迟、能效)的最高综合得分。在这项工作中,我们提出了一个单阶段自动化框架 YOSO,旨在生成灵活平衡精度、功耗和 QoS 目标的软件与硬件最优解。在基线 systolic array 加速器和 Cifar10 数据集上,与两阶段方法相比,针对不同的用户指定能效和延迟优化约束,我们在相同精度水平下分别实现了 1.42x~2.29x 的能耗或 1.79x~3.07x 的延迟降低。

关键词

引用

@article{arxiv.2005.07075,
  title  = {You Only Search Once: A Fast Automation Framework for Single-Stage DNN/Accelerator Co-design},
  author = {Weiwei Chen and Ying Wang and Shuang Yang and Chen Liu and Lei Zhang},
  journal= {arXiv preprint arXiv:2005.07075},
  year   = {2020}
}

备注

6 pages, 7 figures