选择性有害：深度神经网络中类别选择性的因果影响评估
机器学习
2020-10-15 v3 神经与进化计算
神经元与认知
机器学习
摘要
为了理解其所嵌入的生物与人工神经网络，人们常分析单个神经元的特性。类别选择性——通常定义为神经元对不同类别刺激或数据样本响应的差异程度——常被用于此目的。然而，深度神经网络（DNN）是否需要在单个单元中学习类别选择性，以及类别选择性是否充分，仍是一个开放问题。我们通过直接对类别选择性进行正则化（促进或抑制）来研究其对网络功能的因果影响。使用该正则化器降低卷积神经网络各单元的类别选择性，使在 Tiny ImageNet 上训练的 ResNet18 测试准确率提升超过 2%。对于在 CIFAR10 上训练的 ResNet20，我们能在不影响测试准确率的情况下将类别选择性降低 2.5 倍，且仅以微小（~2%）的测试准确率下降将选择性降至接近零。相反，正则化以增强类别选择性在所有模型和数据集上均显著降低了测试准确率。这些结果表明，单个单元的类别选择性既非充分也非严格必要，甚至会有损 DNN 性能。它们也提醒人们在将单单元特性作为 DNN 运作机制的代表时需谨慎。
引用
@article{arxiv.2003.01262,
title = {Selectivity considered harmful: evaluating the causal impact of class selectivity in DNNs},
author = {Matthew L. Leavitt and Ari Morcos},
journal= {arXiv preprint arXiv:2003.01262},
year = {2020}
}