中文

卷积神经网络压缩的降存储直接张量环分解

计算机视觉与模式识别 2024-08-06 v2 机器学习

摘要

卷积神经网络(CNNs)是计算机视觉任务中最广泛使用的数据学习模型之一,如图像分类。为提高CNNs的效率,人们发展了许多CNNs压缩方法。低秩方法通过一系列较小的卷积核来近似原始卷积核,这导致存储和时间复杂度的降低。本研究提出了一种基于降低存储直接张量环分解(Reduced storage direct tensor ring decomposition, RSDTR)的新型低秩CNNs压缩方法。该方法提供了更高的循环模式置换灵活性,具有较大的参数和FLOPS压缩率,同时保持良好的分类精度。在CIFAR-10和ImageNet数据集上的实验清晰地表明了RSDTR相对于其他最先进CNNs压缩方法的有效性。

关键词

引用

@article{arxiv.2405.10802,
  title  = {Reduced storage direct tensor ring decomposition for convolutional neural networks compression},
  author = {Mateusz Gabor and Rafał Zdunek},
  journal= {arXiv preprint arXiv:2405.10802},
  year   = {2024}
}