面向 CNN 的硬件高效可调容差近似卷积
机器学习
2026-04-10 v2 人工智能
硬件体系结构
摘要
现代 CNN 的高计算需求阻碍了边缘部署，传统“硬”稀疏（跳过数学上的零）在深层网络或使用 Tanh 等光滑激活函数时效果下降。我们提出一种“软稀疏”范式，利用硬件高效的最有效位（MSB）代理，跳过可忽略的非零乘法。该方法集成为自定义 RISC-V 指令，在 LeNet-5（MNIST）上进行评估，ReLU MAC 减少 88.42%，Tanh MAC 减少 74.87%，且无精度损失——超越零跳过方法 5 倍。通过时钟屏蔽非活跃乘法器，我们估计 ReLU 功耗可节省 35.2%，Tanh 功耗可节省 29.96%。虽然内存访问使得功耗降低不如运算节省率线性，但该方法显著优化了资源受限的推理场景。
引用
@article{arxiv.2603.10100,
title = {Hardware Efficient Approximate Convolution with Tunable Error Tolerance for CNNs},
author = {Vishal Shashidhar and Anupam Kumari and Roy P Paily},
journal= {arXiv preprint arXiv:2603.10100},
year = {2026}
}
备注
Submitted to IEEE GCON 2026