中文

加速频域网络推理

计算机视觉与模式识别 2024-10-08 v1

摘要

已证明网络参数可在频域中显著减少,仅略微降低准确率。然而,鉴于频率变换的成本,计算复杂度并未显著降低。本文提出在频域中执行网络推理以加速稀疏频率参数的网络。具体而言,我们提出一种频率推理链,与网络在空间域中的推理成对。为了处理非线性层,我们在频率数据上直接应用非线性运算,这种做法效果良好。凭借频率推理链和非线性层的策略,所提出的方法在整个网络中完成频域内的推理。不同于以往需要对所有层额外进行频率或逆变换的做法,所提出的方法仅在网络的开始和结束各一次需要频率变换及其逆变换。与最新方法的比较表明,所提出的方法在高加速度比(超过100倍)下显著提高了准确率。源代码可在 \url{https://github.com/guanfangdong/FreqNet-Infer} 获取。

关键词

引用

@article{arxiv.2410.04342,
  title  = {Accelerating Inference of Networks in the Frequency Domain},
  author = {Chenqiu Zhao and Guanfang Dong and Anup Basu},
  journal= {arXiv preprint arXiv:2410.04342},
  year   = {2024}
}

备注

accepted by ACM Multimedia Asia 2024