基于近似对数计算的神经网络训练
机器学习
2026-05-05 v1 机器学习
摘要
训练深度神经网络的高计算复杂度限制了边缘设备上的在线与实时训练。本文提出一种端到端训练与推理方案，通过对数域中的近似运算消除乘法，有潜力显著降低实现复杂度。我们以定点数据表示，在整个对数域中实现完整训练流程。该训练流程受基于查找表和位移的硬件友好型对数域加法近似启发。我们表明，对于多个常用数据集，我们的 16 位基于对数的训练可达到与等效浮点基线相差约 1% 以内的分类精度。
引用
@article{arxiv.1910.09876,
title = {Neural Network Training with Approximate Logarithmic Computations},
author = {Arnab Sanyal and Peter A. Beerel and Keith M. Chugg},
journal= {arXiv preprint arXiv:1910.09876},
year = {2026}
}