迈向3D AI硬件：面向异构系统集成与AI系统的3D堆叠细粒度硬件表征
新兴技术
2024-09-18 v1
摘要
在缩放时代末期，3D集成在提升系统性能和效率方面具有关键优势。它支持集成异构系统组件和不同技术，消除片外通信限制，降低片上延迟和总功耗。此外，AI对更高计算能力、更大GPU缓存容量、能效和低功耗定制AI硬件集成的需求，均构成了3D集成的驱动力。尽管增强的互连性和提升的性能等3D优势已通过众多技术节点得到验证，但异构3D系统设计仍引发了许多悬而未决的问题。其中主要挑战包括由系统组件间复杂交互模式引起的温度和寿命可靠性问题。这些交互更难用当前建模工具进行建模，需要详细的硬件表征。本研究介绍了3D集成的最新驱动力以及由此产生的硬件仿真框架需求。随后，提出了一种用于分析功耗、温度、噪声、层间带宽和寿命可靠性表征的设计，该设计能够仿真多种堆叠替代方案。该框架允许在宏观层面控制活动水平，并配备定制的传感器基础设施，用于表征热传播、层间噪声、功率传输、可靠性、互连性以及关键设计目标之间的交互。
引用
@article{arxiv.2409.10539,
title = {Towards 3D AI Hardware: Fine-Grain Hardware Characterization of 3D Stacks for Heterogeneous System Integration & AI Systems},
author = {Eren Kurshan and Paul Franzon},
journal= {arXiv preprint arXiv:2409.10539},
year = {2024}
}