增强边缘神经网络可靠性：带随机仿射变换的逆归一化方法
机器学习
2024-01-24 v1 硬件体系结构
新兴技术
摘要
贝叶斯神经网络（Bayesian Neural Networks, BayNNs）天然能提供预测中的不确定性，使其成为安全关键型应用中的合适选择。此外，利用基于忆阻器的存内计算（in-memory computing, IMC）架构实现它们，使其能够适用于资源受限的边缘应用。然而，除了预测不确定性之外，对计算噪声具有固有的鲁棒性对于确保功能安全也至关重要。特别是，基于忆阻器的存内计算容易受到各种非理想性来源的影响，例如制造与运行时变异、漂移和故障，这些都可能显著降低推理精度。在本文中，我们提出了一种方法，以固有地增强部署在存内计算架构中的贝叶斯神经网络的鲁棒性和推理精度。为实现这一目标，我们引入了一种结合随机仿射变换的新型归一化层。在各种基准数据集上的实验结果表明，推理精度出现了优雅降级，提升幅度最高可达58.11%。
引用
@article{arxiv.2401.12416,
title = {Enhancing Reliability of Neural Networks at the Edge: Inverted Normalization with Stochastic Affine Transformations},
author = {Soyed Tuhin Ahmed and Kamal Danouchi and Guillaume Prenat and Lorena Anghel and Mehdi B. Tahoori},
journal= {arXiv preprint arXiv:2401.12416},
year = {2024}
}