以新维度突破AI芯片的内存墙
硬件体系结构
2020-09-30 v1 人工智能
计算机视觉与模式识别
机器学习
图像与视频处理
摘要
深度学习的近期进展使得人工智能(AI)在计算机视觉和自然语言处理等应用中被广泛采用。随着神经网络变得更深更大,AI建模需求超出了传统芯片架构的能力。内存带宽落后于算力,能耗开始主导总拥有成本。当前,内存容量不足以支持最先进的NLP模型。在这项工作中,我们提出了一款称为Sunrise的3D AI芯片,采用近内存计算架构以应对这三大挑战。这种分布式近内存计算架构凭借充裕的数据带宽,使我们能够打破限制性能的存储墙。我们在40nm工艺上实现了与竞品7nm工艺相同的能效。若转向与其他AI芯片相似的工艺,我们预计可实现比当前最先进芯片高十倍以上的能效、七倍的性能,以及相比各基准测试中最佳芯片二十倍的内存容量。
引用
@article{arxiv.2009.13664,
title = {Breaking the Memory Wall for AI Chip with a New Dimension},
author = {Eugene Tam and Shenfei Jiang and Paul Duan and Shawn Meng and Yue Pang and Cayden Huang and Yi Han and Jacke Xie and Yuanjun Cui and Jinsong Yu and Minggui Lu},
journal= {arXiv preprint arXiv:2009.13664},
year = {2020}
}