DRNet:以可解释方式剖析与重构卷积神经网络
计算机视觉与模式识别
2020-02-27 v2
摘要
卷积神经网络(ConvNets)在现实生活中被广泛应用。人们通常使用在固定类别数上预训练的ConvNets。然而,对于不同的应用场景,我们通常并不需要所有类别,这意味着ConvNets在处理这些任务时存在冗余。本文关注ConvNet通道的冗余问题。我们提出了一种新颖思路:以可解释方式找出每个类别最重要的通道(剖析),并根据所需类别动态运行通道(重构)。对于在CIFAR-10上预训练的VGG16,在处理两类子任务时我们平均仅运行11%的参数,且精度损失可忽略。对于在ImageNet上预训练的VGG16,我们的方法在两类子任务上平均获得14.29%的精度提升。此外,分析表明我们的方法捕捉到了通道的一些语义含义,并更有针对性地利用上下文信息来处理ConvNets的子任务。
引用
@article{arxiv.1911.08691,
title = {DRNet: Dissect and Reconstruct the Convolutional Neural Network via Interpretable Manners},
author = {Xiaolong Hu and Zhulin An and Chuanguang Yang and Hui Zhu and Kaiqaing Xu and Yongjun Xu},
journal= {arXiv preprint arXiv:1911.08691},
year = {2020}
}
备注
ECAI2020