从算术到逻辑：基于参数位翻转的逻辑与查找型神经网络的韧性
机器学习
2026-03-25 v1 人工智能
摘要
深度神经网络（DNN）在安全关键边缘环境中部署，必须具备对由硬件引起的位翻转错误的韧性。虽然经验研究表明降低数值精度可提高容错能力，但这一现象的理论依据仍未得到充分探讨。本文将韧性作为神经网络架构的结构属性进行研究，而非仅作为数据特定训练解的属性。通过推导独立参数位翻转下的数期平方误差（MSE），我们表明低精度、更稀疏、受限激活以及浅层结构在此腐蚀模型下均被优先考虑。随后，我们指出，逻辑和查找型神经网络实现了这些设计趋势的联合极限。通过对 MLPerf Tiny 基准套件的消融实验，表明观察到的经验趋势与理论预测相一致，查找表（LUT）基于模型在标准浮点模型失效的腐蚀范围内仍保持高度稳定。此外，我们识别出一种独特于逻辑架构的新型双层恢复效应，并分析其出现的结构条件。总体而言，本文结果表明，从连续算术权重转向离散布尔查找，可为硬件容错提供有利的精度-韧性权衡。
引用
@article{arxiv.2603.22770,
title = {From Arithmetic to Logic: The Resilience of Logic and Lookup-Based Neural Networks Under Parameter Bit-Flips},
author = {Alan T. L. Bacellar and Sathvik Chemudupati and Shashank Nag and Allison Seigler and Priscila M. V. Lima and Felipe M. G. França and Lizy K. John},
journal= {arXiv preprint arXiv:2603.22770},
year = {2026}
}