InceptionV1 早期视觉的缺失曲线检测器：稀疏自编码器的应用
机器学习
2024-09-10 v3
摘要
最近的稀疏自编码器 (SAE) 工作显示其在从神经网络中提取可解释特征方面具有前景，并可解决由叠加导致的多义神经元挑战。本文将 SAEs 应用于 InceptionV1 的早期视觉层，这是一个已广泛研究的卷积神经网络，主要关注曲线检测器。我们的结果表明，SAEs 能够揭示出不易从单个神经元检查中看到的新的可解释特征，包括填补先前空白的额外曲线检测器。我们还发现 SAEs 能够将某些多义神经元分解为更单义的组成特征。这些发现表明，SAEs 是理解 InceptionV1 以及更广泛地理解卷积神经网络的有价值工具。
关键词
引用
@article{arxiv.2406.03662,
title = {The Missing Curve Detectors of InceptionV1: Applying Sparse Autoencoders to InceptionV1 Early Vision},
author = {Liv Gorton},
journal= {arXiv preprint arXiv:2406.03662},
year = {2024}
}
备注
Added appendix