面向量化神经网络的高效存内计算硬件:现状、开放挑战与展望
硬件体系结构
2023-08-02 v1 人工智能
新兴技术
摘要
云端处理的数据量、物联网(IoT)应用的发展以及日益增长的数据隐私担忧,迫使计算从云端向边缘端转移。边缘端有限的能量与计算资源推动了从传统冯·诺依曼架构向存内计算(IMC)的转型,尤其是在机器学习和神经网络应用中。网络压缩技术被应用于在有限的硬件资源上实现神经网络。量化是最有效的网络压缩技术之一,能够减小内存占用、延迟和能耗。本文全面综述了基于 IMC 的量化神经网络(QNN),并将基于软件的量化方法与 IMC 硬件实现相联系。此外,本文给出了开放挑战、QNN 设计需求、建议与展望,以及基于 IMC 的 QNN 硬件路线图。
引用
@article{arxiv.2307.03936,
title = {Towards Efficient In-memory Computing Hardware for Quantized Neural Networks: State-of-the-art, Open Challenges and Perspectives},
author = {Olga Krestinskaya and Li Zhang and Khaled Nabil Salama},
journal= {arXiv preprint arXiv:2307.03936},
year = {2023}
}