Catwalk:面向时序神经网络的单位-Top-K 高效无泄漏突触响应神经元设计
硬件体系结构
2025-09-01 v1 神经与进化计算
摘要
时序神经网络(TNN)是一种仿生神经网络,利用位序列化时序编码。TNN由若干列构成,每列又由神经元作为基本单元。每个神经元处理其树突输入上调制的输入尖脉冲群。最近提出的CMOS中神经元实现采用带有坡度-无泄漏(RNL)响应函数的突触响应模型(SRM),并假设所有输入均可携带尖脉冲。然而,在实际的尖脉冲群中,只有极小比例的树突输入在每次计算周期内才携带尖脉冲。这种稀疏性可被利用以实现更佳的硬件效率。本文提出的Catwalk神经元实现通过单位-Top-K将尖脉冲群中作为排序子集簇迁移位置,从而显著降低后续并行计数器(PC)用于累计来自尖脉冲输入的响应函数的开销。这将导致在RNL神经元实现中实现面积和功耗效率的提升。布局和布线结果表明,Catwalk相较于现有SRM0-RNL神经元在面积和功耗方面分别提升了1.39倍和1.86倍。
引用
@article{arxiv.2508.21267,
title = {Catwalk: Unary Top-K for Efficient Ramp-No-Leak Neuron Design for Temporal Neural Networks},
author = {Devon Lister and Prabhu Vellaisamy and John Paul Shen and Di Wu},
journal= {arXiv preprint arXiv:2508.21267},
year = {2025}
}
备注
Amar Mukherjee Best Paper Award of ISVLSI 2025