自监督学习中的动态通道选择

尽管基于自监督方法构建的计算机视觉模型现已十分常见，一些重要问题仍有待解答。自监督模型是否学习了高度冗余的通道特征？如果一个自监督网络能够动态选择重要通道并剔除不必要的通道会怎样？当前，经自监督预训练的卷积网络在计算机视觉的下游任务上已取得与有监督对应模型相当的性能。然而，自监督模型存在诸多弊端，包括参数量大、训练策略计算昂贵，以及明显需要在下游任务上实现更快推理。本工作中，我们的目标是通过研究一种为监督学习开发的标准通道选择方法如何应用于自监督训练的网路，来解决后者。我们在CIFAR-10、CIFAR-100和ImageNet-100等不同数据集上，针对图像分类任务的通道计算设定了一系列目标预算 $t_{d}$ 来验证发现，在选取全部通道时取得与原网络相当的性能，但FLOPs所衡量的计算量显著减少。