面向神经网络的非易失性元件存内计算协同设计视角
新兴技术
2022-06-22 v1 神经与进化计算
摘要
深度学习神经网络无处不在，但传统的计算机架构在高效执行当今大规模工作负载方面正达到极限。它们受到冯·诺依曼瓶颈的限制：在内存和计算引擎之间移动数据所产生的高昂能量和延迟成本。如今，特殊的 CMOS 设计可解决这一瓶颈。下一代计算硬件将需要消除或显著缓解这一瓶颈。我们讨论了存内计算如何在这一发展中发挥重要作用。在此，一种基于非易失性存储器的交叉开关架构构成了引擎的核心，该引擎使用模拟过程来并行化矩阵向量乘法运算，该运算在所有神经网络工作负载中被反复使用。这种交叉开关架构，有时被称为神经形态方法，可以成为未来计算机器中的关键硬件元素。在本综述的第一部分，我们从协同设计的角度审视了设计约束及其对支撑交叉开关架构的新材料和存储器件提出的要求。在第二部分，我们回顾了关于适用于存内计算的不同新型非易失性存储材料和器件的已知信息，并讨论了前景与挑战。
引用
@article{arxiv.2206.08735,
title = {A Co-design view of Compute in-Memory with Non-Volatile Elements for Neural Networks},
author = {Wilfried Haensch and Anand Raghunathan and Kaushik Roy and Bhaswar Chakrabarti and Charudatta M. Phatak and Cheng Wang and Supratik Guha},
journal= {arXiv preprint arXiv:2206.08735},
year = {2022}
}
备注
56 pages, 15 figures