ASCEND：精确且高效的Vision Transformer端到端随机计算加速
系统与控制
2024-02-21 v1 系统与控制
摘要
随机计算（SC）已成为一种有前景的神经网络加速计算范式。然而，如何利用SC加速最先进的Vision Transformer（ViT）仍不清楚。与卷积神经网络不同，ViT由于其非线性函数（如softmax和高斯误差线性单元（GELU））引入了显著的兼容性和效率挑战。在本文中，首次提出了一种基于端到端SC的ViT加速器，称为ASCEND。ASCEND协同设计SC电路和ViT网络，以实现精确且高效的加速。为克服兼容性挑战，ASCEND提出了一种新型确定性SC块用于GELU，并利用一种对SC友好的迭代近似算法来设计精确且高效的softmax电路。为提高推理效率，ASCEND开发了两阶段训练流水线以生成精确的低精度ViT。通过大量实验，我们表明所提出的GELU和softmax块与现有SC设计相比，分别实现了56.3%和22.6%的误差降低，并分别将面积延迟积（ADP）降低了5.29倍和12.6倍。此外，与基线低精度ViT相比，ASCEND在CIFAR10和CIFAR100上也取得了显著的精度提升。
引用
@article{arxiv.2402.12820,
title = {ASCEND: Accurate yet Efficient End-to-End Stochastic Computing Acceleration of Vision Transformer},
author = {Tong Xie and Yixuan Hu and Renjie Wei and Meng Li and Yuan Wang and Runsheng Wang and Ru Huang},
journal= {arXiv preprint arXiv:2402.12820},
year = {2024}
}
备注
Accepted in DATE 2024