Patronus：基于原型的可解释扩散模型
计算机视觉与模式识别
2026-02-04 v2 人工智能
机器学习
摘要
揭示基于扩散的生成模型的不透明性是迫切需要的，因为其应用不断扩展，而其底层过程在很大程度上仍是一个黑盒。针对“如何解释和理解扩散生成过程？”这一关键问题，我们提出了 Patronus，一种可解释的扩散模型，它结合原型网络在视觉图像块中编码语义，揭示了在整个去噪过程中建模了什么视觉模式以及它们在何处、何时出现。Patronus 的这种可解释性为生成机制提供了更深入的见解，能够通过不需要的相关性检测捷径学习，并追踪跨时间步的语义涌现。我们在四个自然图像数据集和一个医学成像数据集上评估了 Patronus，展示了其忠实的可解释性和强大的生成性能。通过这项工作，我们为通过基于原型的可解释性来理解和引导扩散模型开辟了新途径。我们的代码可在 https://github.com/nina-weng/patronus 获取。
引用
@article{arxiv.2503.22782,
title = {Patronus: Interpretable Diffusion Models with Prototypes},
author = {Nina Weng and Aasa Feragen and Siavash Bigdeli},
journal= {arXiv preprint arXiv:2503.22782},
year = {2026}
}