SIAM：基于芯片let的网状可扩展存内加速架构用于深度神经网络
机器学习
2021-08-23 v1 硬件体系结构
摘要
用于深度学习的单片芯片上的存内计算(IMC)由于模型规模不断增长，在面积、良率和片上互连成本方面面临严峻挑战。2.5D集成或基于chiplet的架构将多个小芯片(即chiplet)互连以形成大型计算系统，为加速大型深度学习模型提供了超越单片IMC架构的可行方案。本文提出了一个新的基准仿真器SIAM，用于评估基于chiplet的IMC架构的性能，并探索这种IMC架构设计范式转变的潜力。SIAM集成了器件、电路、架构、片上网络(NoC)、封装内网络(NoP)和DRAM访问模型以实现端到端系统。SIAM可扩展以支持广泛的深度神经网络(DNNs)，可定制于各种网络结构和配置，并能够进行高效的设计空间探索。我们通过使用CIFAR-10、CIFAR-100和ImageNet数据集对不同的先进DNNs进行基准测试，展示了SIAM的灵活性、可扩展性和仿真速度。我们进一步用已发布的硅结果SIMBA对仿真结果进行校准。通过SIAM获得的基于chiplet的IMC架构在ImageNet数据集上针对ResNet-50的能效相比Nvidia V100和T4 GPU分别提升了130和72。
引用
@article{arxiv.2108.08903,
title = {SIAM: Chiplet-based Scalable In-Memory Acceleration with Mesh for Deep Neural Networks},
author = {Gokul Krishnan and Sumit K. Mandal and Manvitha Pannala and Chaitali Chakrabarti and Jae-sun Seo and Umit Y. Ogras and Yu Cao},
journal= {arXiv preprint arXiv:2108.08903},
year = {2021}
}