HTMA-Net：通过 Hadamard 变换与存内计算迈向避免乘法的神经网络
计算机视觉与模式识别
2025-12-16 v2 人工智能
摘要
降低乘法成本对于高效的深度神经网络部署至关重要，尤其是在能源受限的边缘设备上。在这项工作中，我们引入了 HTMA-Net，一个新颖的框架，它将 Hadamard 变换（HT）与基于 SRAM 的避免乘法（MA）存内计算相结合，以降低算术复杂度同时保持精度。与先前仅针对卷积层中的乘法或仅专注于存内加速的方法不同，HTMA-Net 选择性地用基于混合 Hadamard 的变换层替换中间卷积，这些变换层的内部卷积通过避免乘法的存内操作实现。我们在 CIFAR-10、CIFAR-100 和 Tiny ImageNet 上使用 ResNet-18 评估了 HTMA-Net，并提供了与常规、仅 MF 和仅 HT 变体的详细比较。结果表明，与基线 ResNet-18、ResNet-20 和 ResNet-32 模型相比，HTMA-Net 消除了高达 52% 的乘法，同时在评估中实现了可比的精度，并显著降低了计算复杂度和参数量。我们的结果证明，将结构化的 Hadamard 变换层与基于 SRAM 的存内计算避免乘法算子相结合，是迈向高效深度学习架构的一条有前景的路径。
引用
@article{arxiv.2509.23103,
title = {HTMA-Net: Towards Multiplication-Avoiding Neural Networks via Hadamard Transform and In-Memory Computing},
author = {Emadeldeen Hamdan and Ahmet Enis Cetin},
journal= {arXiv preprint arXiv:2509.23103},
year = {2025}
}