中文

AdaPT:PyTorch中近似DNN加速器的快速仿真框架

机器学习 2022-10-13 v2 硬件体系结构

摘要

当前最先进的方法采用近似乘法器来应对DNN加速器急剧增长的功耗需求。然而,由于缺乏DNN框架中对近似运算的足够支持,评估近似DNN的精度十分繁琐。我们通过提出AdaPT来解决这一低效问题,这是一个快速仿真框架,扩展了PyTorch以支持近似推理以及近似感知的再训练。AdaPT可以无缝部署,并且与大多数DNN兼容。我们在多个DNN模型和应用领域上评估了该框架,包括CNN、LSTM以及用于若干具有不同位宽值的近似乘法器的GAN。结果表明,通过近似再训练实现了显著的误差恢复,并且相对于基线近似实现,推理时间减少了高达53.9倍。

关键词

引用

@article{arxiv.2203.04071,
  title  = {AdaPT: Fast Emulation of Approximate DNN Accelerators in PyTorch},
  author = {Dimitrios Danopoulos and Georgios Zervakis and Kostas Siozios and Dimitrios Soudris and Jörg Henkel},
  journal= {arXiv preprint arXiv:2203.04071},
  year   = {2022}
}

备注

Accepted for publication in IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems