CNN 混合深度
计算机视觉与模式识别
2024-09-26 v1 机器学习
摘要
我们提出了卷积神经网络（CNN）的混合深度（Mixture-of-Depths, MoD）方法，这是一种新方法，通过根据其对当前预测的相关性来有选择地处理通道，从而提高 CNN 的计算效率。该方法通过动态选择特征图中关键通道进行专注处理（在卷积块中），而跳过不太相关的通道，从而优化计算资源。不同于需要动态计算图的条件计算方法，CNN MoD 使用静态计算图和固定张量大小，这有助于提高硬件效率。它在无需自定义 CUDA 内核、独特损失函数或微调的情况下加快训练和推理过程。CNN MoD 要么匹配传统 CNN 的性能，同时缩短推理时间、GMACs 和参数；要么在保持相似推理时间、GMACs 和参数的同时提升性能。例如，在 ImageNet 上，ResNet86-MoD 以 6% 的 CPU 加速和 5% 的 GPU 加速，超过了标准 ResNet50 的 0.45% 的性能。此外，ResNet75-MoD 在 CPU 上实现 25% 的加速和 GPU 上实现 15% 的加速，性能与 ResNet50 相同。
引用
@article{arxiv.2409.17016,
title = {CNN Mixture-of-Depths},
author = {Rinor Cakaj and Jens Mehnert and Bin Yang},
journal= {arXiv preprint arXiv:2409.17016},
year = {2024}
}
备注
Conference Paper of the Asian Conference on Computer Vision (ACCV) 2024