揭开深度网络的帷幕
机器学习
2026-05-08 v6 计算机视觉与模式识别
神经与进化计算
摘要
在线性模型中，可视化权重向量自然揭示模型的首选输入方向，但将这种直觉延伸到深度网络通过梯度或梯度上升常常产生脆弱或对抗性的特征。我们认为，深度网络更应作为输入条件下的仿射算子来理解，其自然的余作用将神经元的首选方向“拉回”到输入空间。我们进一步通过仅使用反向传播的软化和迭代增强来重构目标神经元编码的连贯局部结构。这提供了一种对此前 disparate 思路（如 SmoothGrad、B-cos 风格对齐和特征强化）的统一视角。 resulting Semantic Pullbacks（SP）生成感知对齐、受类制约的事后解释，强调语义有意义的特征，促进连贯的反事实扰动，并保持理论基础。 Across convolutional architectures（ResNet50、VGG）和 transformer-based models（PVT），Semantic Pullbacks 在忠实性、稳定性和目标灵敏度基准中实现最佳整体权衡，同时保持通用、计算高效且易于集成到现有深度学习管道中。
引用
@article{arxiv.2507.22832,
title = {Pulling Back the Curtain on Deep Networks},
author = {Maciej Satkiewicz and Roberto Corizzo and Marcin Pietroń},
journal= {arXiv preprint arXiv:2507.22832},
year = {2026}
}
备注
Preprint; 9 pages, 23-page appendix, 12 figures, 6 Tables; v6 changes: slight reframing of the presentation