深度卷积核方法中图像块的不合理有效性
计算机视觉与模式识别
2021-01-20 v1 机器学习
摘要
近期一系列工作表明，各种形式的卷积核方法可在CIFAR-10等数据集上与标准监督深度卷积网络竞争，准确率可达87-90%范围，同时更易于理论分析。本文中，我们强调了数据依赖的特征提取步骤的重要性，该步骤是卷积核方法取得良好性能的关键。此步骤通常对应于白化后的图像块字典，并催生了数据驱动的卷积核方法。我们广泛研究其效果，证明它是这些方法高性能的关键要素。具体而言，我们展示此类核方法中最简单的实例之一——基于单层图像块后接线性分类器——已在CIFAR-10上取得与先前更复杂卷积核方法相当的准确率。我们将该方法扩展到具有挑战性的ImageNet数据集，表明这种简单方法可超越所有现有的非学习表征方法。这是无表征学习方法物体识别的新基线，并开启了卷积核模型在ImageNet上的研究。我们开展实验分析所用字典，消融实验显示其呈现低维特性。
引用
@article{arxiv.2101.07528,
title = {The Unreasonable Effectiveness of Patches in Deep Convolutional Kernels Methods},
author = {Louis Thiry and Michael Arbel and Eugene Belilovsky and Edouard Oyallon},
journal= {arXiv preprint arXiv:2101.07528},
year = {2021}
}