当蒙特卡洛 Dropout 遇上多出口：在 FPGA 上优化贝叶斯神经网络
机器学习
2023-08-15 v1 硬件体系结构
摘要
贝叶斯神经网络（BayesNNs）已证明其能够为医疗影像和自动驾驶等安全关键应用提供经过校准的预测。然而，贝叶斯神经网络的高算法复杂度和较差的硬件性能阻碍了其在实际应用中的部署。为弥补这一差距，本文提出了一种新颖的基于多出口蒙特卡洛 Dropout（MCD）的贝叶斯神经网络，以低算法复杂度实现良好校准的预测。为进一步降低采用贝叶斯神经网络的门槛，我们提出了一种转换框架，能够为基于多出口 MCD 的贝叶斯神经网络生成基于 FPGA 的加速器。我们引入了若干新颖的优化技术以提升硬件性能。实验表明，我们自动生成的加速器比 CPU、GPU 及其他最先进的硬件实现具有更高的能效。
引用
@article{arxiv.2308.06849,
title = {When Monte-Carlo Dropout Meets Multi-Exit: Optimizing Bayesian Neural Networks on FPGA},
author = {Hongxiang Fan and Hao Chen and Liam Castelli and Zhiqiang Que and He Li and Kenneth Long and Wayne Luk},
journal= {arXiv preprint arXiv:2308.06849},
year = {2023}
}