Domino显著性度量：利用结构信息改进现有通道显著性度量
计算机视觉与模式识别
2022-06-22 v2 机器学习
摘要
通道剪枝用于减少卷积神经网络(CNN)中的权重数量。通道剪枝移除权重张量的切片，从而使卷积层保持稠密。从单层移除这些权重切片会导致网络各层之间特征图数量不匹配。一个简单的解决方案是通过从后续层移除权重切片来强制层间特征图数量匹配。这一附加约束在带分支的深度神经网络(DNN)中更为明显，其中需要同时剪枝多个通道以保持网络稠密。流行的剪枝显著性度量未考虑带分支DNN中产生的结构依赖。我们提出Domino度量(构建于现有通道显著性度量之上)以反映这些结构约束。我们在多个带分支网络上将Domino显著性度量与基线通道显著性度量进行对比测试。Domino显著性度量在大多数测试网络中提升了剪枝率，在AlexNet于CIFAR-10上最高提升25%。
引用
@article{arxiv.2205.02131,
title = {Domino Saliency Metrics: Improving Existing Channel Saliency Metrics with Structural Information},
author = {Kaveena Persand and Andrew Anderson and David Gregg},
journal= {arXiv preprint arXiv:2205.02131},
year = {2022}
}