神经网络的特征选择偏向较不抽象的线索

人工神经网络（ANNs）已成为图像分类的重要工具，在研究和工业中有诸多应用。然而，相关图像特征如何被选择以及数据属性如何影响该过程仍很大程度上未知。我们尤其关注与类属相关的图像线索的抽象层级是否影响特征选择。我们使用包含组合线索的二值图像进行实验，这些线索代表两种不同抽象层级：一种是从随机分布中抽取的图案，其类属与图案的统计特性相关；另一种是由类符号实体组合而成，其符号编码与类属相关。当网络用两种线索同等显著的数据训练时，我们观察到较低抽象层级（即图案）的线索被学习，而符号信息在很大程度上被忽略，即便在具有很多层的网络中也是如此。只有当低层线索的重要性相对于高层线索降低时，类符号实体才会被学习。这些发现对深度 ANN 所学特征的相关性以及学习如何转向符号特征提出了重要问题。