基于脉冲阵列的结构状态空间模型加速器
机器学习
2025-08-08 v3 系统与控制
系统与控制
摘要
序列建模是人工智能理解时序数据并检测复杂时序模式的关键任务。虽然循环神经网络（RNN）、卷积神经网络（CNN）和 Transformer 在捕捉长程依赖方面取得了进展，但它们在处理极长序列时难以实现高精度，因为受限于固定上下文窗口的记忆保持能力。状态空间模型（SSM）通过指数衰减的记忆机制实现了较长的上下文窗口，因此能够比循环和 Transformer 模型更有效地处理极长数据序列。与传统神经模型（如 CNN 和 RNN）不同，SSM 基于模型需要通过连续积分求解微分方程，这使得在常规 CPU 和 GPU 上进行训练和推断计算和内存开销都较大。本文引入一种专用的硬件加速器 EpochCore，用于加速 SSM。EpochCore 基于脉冲阵列（Systolic Array, SA），旨在提高 SSM 基于模型在长程序列任务中的能源效率和吞吐量。在 SA 中，我们提出了一种通用的处理单元（PE） called LIMA-PE，用于执行传统和专门的 MAC 操作，以支持传统深度神经网络和 SSM。为配合 EpochCore 微架构，我们提出了一种新型数据流 ProDF，能够高效执行基于 SSM 的模型。通过利用 LIMA-PE 微架构和 ProDF，EpochCore 在 LRA 数据集上相较于 GPU 平均实现了 2000 倍的性能提升，相较于传统基于 SA 的加速器（如 TPU）实现了 250 倍的性能提升和 45 倍的能源效率提升。
引用
@article{arxiv.2507.21394,
title = {Systolic Array-based Accelerator for Structured State-Space Models},
author = {Shiva Raja and Cansu Demirkiran and Aakash Sarkar and Milos Popovic and Ajay Joshi},
journal= {arXiv preprint arXiv:2507.21394},
year = {2025}
}