从数据流形上标架视角看视觉模型的内部表示
机器学习
2023-12-08 v2 计算机视觉与模式识别
摘要
尽管过去五年在理解深度学习模型内部表示方面取得了显著进展，许多问题仍然存在。在试图理解模型设计选择（如模型架构或训练算法）对隐藏表示几何与动态的影响时尤其如此。在这项工作中，我们提出了一种受流形切丛上标架概念启发的研究此类表示的新方法。我们称之为神经标架（neural frame）的构造，是通过汇集一组表示数据点特定类型扰动的向量（例如无穷小增强、噪声扰动或由生成模型产生的扰动）并研究它们通过网络时如何变化而形成的。利用神经标架，我们观察到模型在数据点小邻域内逐层处理特定变化模式的方式。我们的结果为若干现象提供了新视角，例如使用增强进行训练产生模型不变性的方式，或所提出的对抗训练与模型泛化之间的权衡。
引用
@article{arxiv.2211.10558,
title = {Internal Representations of Vision Models Through the Lens of Frames on Data Manifolds},
author = {Henry Kvinge and Grayson Jorgenson and Davis Brown and Charles Godfrey and Tegan Emerson},
journal= {arXiv preprint arXiv:2211.10558},
year = {2023}
}
备注
30 pages, accepted as an oral presentation at the Workshop on Symmetry and Geometry in Neural Representations at NeurIPS 2023