面向深度学习工作负载的数据流感知存内计算多核架构
最优化与控制
2024-03-29 v1
摘要
存内计算（PIM）已成为高效能和高性能加速深度学习（DL）工作负载的使能技术。阻变随机存取存储器（ReRAM）是实现 PIM 最具前景的技术之一。然而，随着深度卷积神经网络（DNN）复杂度的增加，我们需要设计一种在单芯片上集成多个基于 ReRAM 的处理单元（PE）的多核架构。现有的基于 PIM 的架构大多侧重于计算而忽略了通信的作用。基于 ReRAM 的片状多核架构通常包含许多处理单元（PE），这些单元需要通过高效的片上通信基础设施互连。如果通信基础设施无法跟上计算速度，仅仅分配更多资源（ReRAM）来加速计算是无效的。在本文中，我们强调了专为各类深度学习工作负载定制的数据流感知 PIM 多核平台的设计原则。我们考虑了 2.5D 中介层和 3D 集成架构的设计挑战。
引用
@article{arxiv.2403.19074,
title = {Cardinality Constraints in Single-Leader-Multi-Follower games},
author = {Didier Aussel and Daniel Lasluisa and David Salas},
journal= {arXiv preprint arXiv:2403.19074},
year = {2024}
}