可解释人工智能引导的多Pod脉动阵列高效近似DNN生成
机器学习
2025-03-24 v1 人工智能
硬件体系结构
摘要
近似深度神经网络（AxDNNs）在提升实际设备能效方面前景广阔。AxDNNs能效提升的关键因素之一在于近似乘法器的使用。不幸的是，近似乘法器的模拟在CPU和GPU上通常难以扩展。因此，这会减缓AxDNNs的整体模拟速度，而该模拟旨在识别合适的近似乘法器，以在最小精度损失下实现高能效。为了解决这一问题，我们提出了一种新颖的XAI-Gen方法，该方法利用新兴硬件加速器（如Google TPU v4）的分析模型和可解释人工智能（XAI），精确识别可近似的非关键层，并快速发现AxDNN层的合适近似乘法器。我们的结果表明，XAI-Gen在仅损失1-2%精度的情况下，能耗可降低高达7倍。我们还通过神经架构搜索（XAI-NAS）案例研究展示了XAI-Gen方法的有效性。有趣的是，与生成AxDNNs的最先进NAS方法相比，XAI-NAS在能效上提高了40%，执行时间减少了高达5倍。
引用
@article{arxiv.2503.16583,
title = {Explainable AI-Guided Efficient Approximate DNN Generation for Multi-Pod Systolic Arrays},
author = {Ayesha Siddique and Khurram Khalil and Khaza Anuarul Hoque},
journal= {arXiv preprint arXiv:2503.16583},
year = {2025}
}
备注
This paper has been accepted in the ISQED 2025 conference