基于随机深度可分离符号卷积神经网络的图像分类与检索
计算机视觉与模式识别
2019-03-19 v3 信息检索
机器学习
机器学习
摘要
我们提出一种随机卷积神经网络以生成特征空间,并在其中研究图像分类与检索性能。简言之,我们应用随机卷积块后接全局平均池化来生成新特征,并将此过程重复k次以产生k维特征空间。这可解释为用随机超平面划分图像块空间,我们将其形式化为随机深度可分离卷积神经网络。在网络最后一层,我们使用线性支持向量机和k近邻分类器进行图像分类与检索,并研究其他经验性质。我们表明,与输入空间相比,我们网络最后一层中类间图像像素分布相似度与类内相似度之比更高。当我们应用线性支持向量机进行图像分类时,其准确率高于仅以随机权重训练VGG16、ResNet18和DenseNet40最后一层的情况。在相同设定下我们将其与一种无监督特征学习方法比较,发现我们在CIFAR10上准确率相当,但在CIFAR100和STL10上更高。我们看到准确率距训练网络不远,尤其在top-k设定下。例如我们网络的top-2准确率在CIFAR10和10类mini ImageNet上接近90%,在STL10上为85%。我们发现k近邻在Corel Princeton图像相似度基准上给出的精度与使用训练网络最后一层相当。与其他网络一样,我们发现即使没有梯度且使用符号激活,我们的网络仍会失效于黑盒攻击。我们强调网络对背景的敏感性既是潜在缺陷也是优势。总体而言,我们的工作推进了随机权重所能达到的边界。
引用
@article{arxiv.1806.05789,
title = {Image classification and retrieval with random depthwise signed convolutional neural networks},
author = {Yunzhe Xue and Usman Roshan},
journal= {arXiv preprint arXiv:1806.05789},
year = {2019}
}