面向物联网设备的能效随机计算神经网络：基于可调序列长度的层级混合精度
机器学习
2025-08-14 v1 人工智能
摘要
随机计算(SC)已然然为在资源受限场景（如物联网(IoT)）中部署神经网络(NN)的高效低功耗替代方案。通过将值编码为串行比特序列，SC显著降低了与传统浮点(FP)设计相比的能耗散耗；然而，针对SC的层级混合精度实现的进一步改进仍未探索。本文引入可调序列长度(ASL)，一种专为SC神经网络应用的混合精度概念方案。通过引入算子范数基础的理论模型，本文表明截断噪声可通过估计的放大因子在各层中累积传播。本文提出了扩展灵敏度分析，使用随机森林(RF)回归评估多层截断效应，并验证理论预测与实际网络行为的一致性。为适应不同应用场景，本文提出两种截断策略（粗粒度和细粒度），在各层应用不同的序列长度配置。32nm工艺下合成的流水线SC MLP评估表明，ASL可在几乎不损失准确率的情况下，将能耗和延迟开销降低至60%以上。这确认了ASL方案在物联网应用中的可行性，并凸显了SC设计中混合精度截断的独特优势。
引用
@article{arxiv.2508.09163,
title = {Energy-Efficient Stochastic Computing (SC) Neural Networks for Internet of Things Devices With Layer-Wise Adjustable Sequence Length (ASL)},
author = {Ziheng Wang and Pedro Reviriego and Farzad Niknia and Zhen Gao and Javier Conde and Shanshan Liu and Fabrizio Lombardi},
journal= {arXiv preprint arXiv:2508.09163},
year = {2025}
}