信号处理中神经网络应用的计算复杂度评估
信号处理
2024-03-12 v2 计算复杂性
机器学习
摘要
在本文中，我们提供了一种系统方法来评估和比较数字信号处理中神经网络层的计算复杂度。我们给出并关联了四种软件到硬件的复杂度度量，定义了不同复杂度度量如何与层的超参数相关联。本文解释了如何为前馈层和循环层计算这四种度量，并定义了在表征更偏软件或硬件导向的应用时我们应当使用何种特定度量。四种度量之一称为“加法与移位次数（NABS）”，是为异构量化新引入的。NABS 刻画了不仅操作中使用的位宽、而且算术运算中使用的量化类型的影响。我们期望本工作可作为与神经网络在实时数字信号处理中应用相关的不同层次（目的）复杂度估计的基线，旨在统一计算复杂度估计。
引用
@article{arxiv.2206.12191,
title = {Computational Complexity Evaluation of Neural Network Applications in Signal Processing},
author = {Pedro Freire and Sasipim Srivallapanondh and Antonio Napoli and Jaroslaw E. Prilepsky and Sergei K. Turitsyn},
journal= {arXiv preprint arXiv:2206.12191},
year = {2024}
}