解读ResNet18的残差流
计算机视觉与模式识别
2024-07-09 v1 机器学习
摘要
对深度神经网络所学计算机制的理解远未完成。在视觉物体识别领域，先前的研究阐明了InceptionV1的内部工作原理，但具有不同架构的DNN在很大程度上仍未得到探索。本文研究了ResNet18，特别关注其残差流，这是InceptionV1所缺乏的一种架构机制。我们观察到，对于给定的块，流的通道特征沿一个频谱更新：要么输入特征跳过到输出，要么块特征覆盖输出，要么输出是输入和块特征的某种混合。此外，我们表明许多残差流通道通过混合输入的较小尺度特征与块的较大尺度特征来计算尺度不变表示。这不仅为尺度等变性的普遍性提供了证据，也展示了残差流如何进一步实现尺度不变性。总的来说，我们的结果开启了对视觉物体识别中残差流的解读，发现它是一个灵活的特征管理器和构建尺度不变表示的媒介。
引用
@article{arxiv.2407.05340,
title = {Interpreting the Residual Stream of ResNet18},
author = {André Longon},
journal= {arXiv preprint arXiv:2407.05340},
year = {2024}
}