中文

面向量化神经网络的高效存内计算硬件:现状、开放挑战与展望

硬件体系结构 2023-08-02 v1 人工智能 新兴技术

摘要

云端处理的数据量、物联网(IoT)应用的发展以及日益增长的数据隐私担忧,迫使计算从云端向边缘端转移。边缘端有限的能量与计算资源推动了从传统冯·诺依曼架构向存内计算(IMC)的转型,尤其是在机器学习和神经网络应用中。网络压缩技术被应用于在有限的硬件资源上实现神经网络。量化是最有效的网络压缩技术之一,能够减小内存占用、延迟和能耗。本文全面综述了基于 IMC 的量化神经网络(QNN),并将基于软件的量化方法与 IMC 硬件实现相联系。此外,本文给出了开放挑战、QNN 设计需求、建议与展望,以及基于 IMC 的 QNN 硬件路线图。

关键词

引用

@article{arxiv.2307.03936,
  title  = {Towards Efficient In-memory Computing Hardware for Quantized Neural Networks: State-of-the-art, Open Challenges and Perspectives},
  author = {Olga Krestinskaya and Li Zhang and Khaled Nabil Salama},
  journal= {arXiv preprint arXiv:2307.03936},
  year   = {2023}
}