面向 Loihi 2 的高效流式序列处理的对角结构状态空间模型
机器学习
2024-09-24 v1 人工智能
新兴技术
神经与进化计算
摘要
深度状态空间模型（SSM）在长范围序列建模任务中表现出领先的性能。虽然SSM的循环结构可有效实现为卷积或并行扫描，但在训练期间无法高效实现逐标记的递归处理。本文演示了在英特尔Loihi 2面向神经形态处理器上实现SSM S4D的高效逐标记推理。我们比较了首个在sMNIST、psMNIST和sCIFAR上的神经形态硬件实现SSM，以及在Jetson Orin Nano（Jetson）上实现的循环和卷积版本。尽管发现Jetson在离线逐样本批量处理模式下性能更好，但Loihi 2在逐标记处理时能耗降低了1000倍，延迟降低了75倍，吞吐量提升了75倍。这为SSM的高效实时流式应用开辟了新方向。
引用
@article{arxiv.2409.15022,
title = {A Diagonal Structured State Space Model on Loihi 2 for Efficient Streaming Sequence Processing},
author = {Svea Marie Meyer and Philipp Weidel and Philipp Plank and Leobardo Campos-Macias and Sumit Bam Shrestha and Philipp Stratmann and Mathis Richter},
journal= {arXiv preprint arXiv:2409.15022},
year = {2024}
}
备注
6 pages, 2 figures