FeatInv：使用条件扩散模型实现从特征空间到输入空间的空间分辨映射
计算机视觉与模式识别
2026-01-15 v2 人工智能
机器学习
摘要
内部表示对于理解深度神经网络（如其性质和推理模式）至关重要，但仍然难以解释。虽然从特征空间到输入空间的映射有助于解释前者，但现有方法通常依赖于粗糙的近似。我们提出使用条件扩散模型——一个以空间分辨特征图为条件的预训练高保真扩散模型——以概率方式学习此类映射。我们在从 CNN 到 ViT 的各种预训练图像分类器上展示了该方法的可行性，显示出优异的重建能力。通过定性比较和鲁棒性分析，我们验证了我们的方法，并展示了可能的应用，例如在输入空间中可视化概念引导或研究特征空间的复合性质。该方法在改善计算机视觉模型特征空间理解方面具有广泛潜力。
引用
@article{arxiv.2505.21032,
title = {FeatInv: Spatially resolved mapping from feature space to input space using conditional diffusion models},
author = {Nils Neukirch and Johanna Vielhaben and Nils Strodthoff},
journal= {arXiv preprint arXiv:2505.21032},
year = {2026}
}
备注
Version published by Transactions on Machine Learning Research in 2025 (TMLR ISSN 2835-8856) at https://openreview.net/forum?id=UtE1YnPNgZ. 32 pages, 27 figures. This work builds on an earlier manuscript (arXiv:2505.21032) and crucially extends it. Code is available at https://github.com/AI4HealthUOL/FeatInv