中文

EdgeLDR:面向边缘高效深度学习的四元数低位移秩神经网络

计算机视觉与模式识别 2026-01-12 v1

摘要

在边缘设备上部署深度神经网络通常受限于密集线性算子的内存流量与计算开销。四元数神经网络通过 Hamilton 乘积耦合多个通道来提升参数效率,但通常保留非结构化的密集权重;相反,结构化矩阵能够实现快速计算,但通常应用于实数域。本文引入了 EdgeLDR,这是一个用于四元数块循环线性和卷积层的实用框架,它将四元数通道混合与块循环参数结构相结合,并通过复伴随表示实现基于 FFT 的计算。我们提供了 EdgeLDR 层的参考实现,并将基于 FFT 的计算与四元数循环乘积的朴素空间域实现进行了比较。FFT 计算比朴素实现获得了显著的实验加速,并且随着块大小的增加保持延迟稳定,使得更大的压缩因子在计算上变得可行。我们进一步将 EdgeLDR 层集成到紧凑的 CNN 和 Transformer 主干中,并在 32x32 RGB 分类(CIFAR-10/100、SVHN)和高光谱图像分类(Houston 2013、Pavia University)上评估了精度与压缩的权衡,报告了参数量以及 CPU/GPU 延迟。结果表明,EdgeLDR 层在保持有竞争力的精度的同时提供了显著的压缩。

关键词

引用

@article{arxiv.2601.05379,
  title  = {EdgeLDR: Quaternion Low-Displacement Rank Neural Networks for Edge-Efficient Deep Learning},
  author = {Vladimir Frants and Sos Agaian and Karen Panetta},
  journal= {arXiv preprint arXiv:2601.05379},
  year   = {2026}
}