面向脉冲神经网络训练的多核类脑近存储系统核心布局优化
硬件体系结构
2025-05-21 v2 神经与进化计算
摘要
随着脉冲神经网络(SNN)应用范围的不断拓展，SNN模型的复杂度呈指数级增长，对AI计算能力的需求日益增长。作为神经网络的新一代计算架构，近存储分布式计算系统的效率和功耗受到广泛关注。在其中，从逻辑核心映射到物理核心的问题是众多研究热点之一。为提高多核近内存计算系统的计算并行度和系统吞吐量，同时降低功耗，我们提出了一种基于Off-policy确定性演员-评论家(SNN训练多核部署优化方法)。我们利用深度强化学习作为非线性优化器，将多核拓扑结构作为网络图特征输入，通过图卷积将多核结构输入策略网络。通过近端策略优化更新策略网络参数，以实现面向SNN模型在多核近内存计算架构中的部署优化，降低芯片功耗。为处理高维动作空间，我们将策略网络输出的连续值数量匹配核心数，然后再离散化以获得新的部署方案。此外，为进一步平衡核间计算延迟并提高系统吞吐量，我们提出了一种具有均衡存储和计算策略的模型分区方法。该方法克服了核间计算和存储负载不均、局部通信热点形成等问题，显著降低了多核近内存计算架构中的模型训练时间、通信成本和核心间平均流量负载。
引用
@article{arxiv.2411.19430,
title = {Core Placement Optimization of Many-core Brain-Inspired Near-Storage Systems for Spiking Neural Network Training},
author = {Xueke Zhu and Wenjie Lin and Yanyu Lin and Yunhao Ma and Wenxiang Cheng and Zhengyu Ma and Yonghong Tian and Huihui Zhou},
journal= {arXiv preprint arXiv:2411.19430},
year = {2025}
}