状态空间方程的硬件综合；在浅层与深度神经网络FPGA实现中的应用
硬件体系结构
2021-05-18 v1 人工智能
信号处理
摘要
如今，浅层和深度神经网络（NN）在生物医学工程、图像处理、计算机视觉和语音识别等领域有广泛应用。许多研究者已开发包括现场可编程门阵列（FPGA）在内的硬件加速器，用于实现高性能和高能效的神经网络。显然，针对每个神经网络的硬件架构设计过程是特定且耗时的。因此，亟需一种系统化设计、实现和优化神经网络的方法。本文提出一种在寄存器传输级（RTL）实现状态空间模型的系统化方法，特别关注神经网络的实现。所提出的设计流程基于状态空间模型的迭代特性以及状态空间表述与有限状态机之间的类比。该方法可用于线性/非线性和时变/时不变系统，也可用于实现本质迭代系统（广泛用于信号处理、数值分析、计算机算术和控制工程等领域）或可改写为等价迭代形式的系统。对具有本质状态空间形式的循环神经网络（如长短期记忆（LSTM）神经网络）的实现是该框架的另一主要应用。作为一个案例研究，展示了状态空间系统可用于神经网络（作为非线性和时变动态系统）的系统化实现与优化。我们还在线提供了一个RTL代码生成软件，简化了任意规模神经网络的自动生成。
引用
@article{arxiv.2105.07131,
title = {Hardware Synthesis of State-Space Equations; Application to FPGA Implementation of Shallow and Deep Neural Networks},
author = {Amir-Hossein Kiamarzi and Pezhman Torabi and Reza Sameni},
journal= {arXiv preprint arXiv:2105.07131},
year = {2021}
}