利用稀疏自编码器揭示InceptionV1分支专化

稀疏自编码器（SAEs）已显示出能够从由叠加导致的多义神经元中找到可解释特征。先前的工作表明，SAEs是从InceptionV1的早期层中提取可解释特征的有效工具。自从那以后，SAEs取得了许多改进，但分支专化在InceptionV1的后期层中仍是谜。我们展示了在mixed4a-4e分支、5x5分支以及一个1x1分支中的每个层都发生的分支专化的各种示例。我们也提供了证据表明，分支专化似乎在各层之间保持一致，在模型的相同特征会被局部化到其相应层中的相同卷积大小分支中。