双曲正切函数多项式与有理逼近及其 VLSI 实现的比较分析
硬件体系结构
2020-09-25 v2 计算机视觉与模式识别
摘要
深度神经网络在许多计算机视觉与人机接口应用（如目标检测、语音识别等）中取得了最先进的结果。由于这些网络计算代价高昂，人们设计定制化加速器以更低成本与功耗实现所需性能。这些神经网络的关键构建模块之一是非线性激活函数，如 sigmoid、双曲正切（tanh）和 ReLU。需要满足神经网络加速器性能与面积目标的低复杂度精确硬件激活函数实现。尽管已有各种 tanh 激活函数的方法与实现发表，但缺少比较研究。本文给出多项式与有理方法及其硬件实现的比较分析。
引用
@article{arxiv.2007.11976,
title = {Comparative Analysis of Polynomial and Rational Approximations of Hyperbolic Tangent Function for VLSI Implementation},
author = {Mahesh Chandra},
journal= {arXiv preprint arXiv:2007.11976},
year = {2020}
}