神经数据集通用性

卷积神经网络（CNNs）从不同数据集学习到的滤波器通常看起来相似。这在最前面的几层中尤为明显。这种滤波器的相似性正被用于迁移学习，并且已有一些研究分析此类特征的可迁移性。它也被用作同一数据集中不同任务或相似数据集中同一任务的初始化技术。现成的 CNN 特征利用了这一思想，将其网络宣传为最具可迁移性和最通用的，并在日常计算机视觉任务中被随意使用。令人好奇的是，尽管这些 CNN 学习到的滤波器与所学习图像的基本结构相关，但所有数据集都学习到外观相似的低级滤波器。基于这样的认识：包含许多此类基本结构的数据集学习到通用滤波器，因此有助于初始化其他网络，我们提出了一种方法，通过迁移滤波器上的准确率来分析和量化数据集之间的通用性。我们将该度量应用于几个流行的字符识别、自然图像和医学图像数据集，得出了一些有趣的结论。在进一步实验中，我们还发现数据集中特定类别本身比其他类别更具通用性。