扩散模型的数据归因：时间步诱导的影响估计偏差

数据归因方法将模型行为追溯至其训练数据集，为更好地理解“黑箱”神经网络提供了一种有效途径。虽然先前的研究已在多种场景下建立了模型输出与训练数据之间的可量化联系，但将扩散模型输出与训练样本关联起来的解释仍鲜有探索。特别是，扩散模型在一系列时间步上运行，而非先前情境中的瞬时输入-输出关系，这对将现有框架直接扩展到扩散模型构成了重大挑战。值得注意的是，我们提出了融入这种时间动态的Diffusion-TracIn，并观察到样本的损失梯度范数高度依赖于时间步。这一趋势导致影响估计中出现显著偏差，尤其对于在大范数诱导时间步上训练的样本更为明显，使其普遍具有较大影响。为缓解此效应，我们引入了Diffusion-ReTrac作为一种重新归一化的自适应方法，能够更针对性地检索与目标测试样本相关的训练样本，从而促进影响的局部化测量并实现更直观的可视化。我们通过各种评估指标和辅助任务证明了我们方法的有效性，将普遍有影响的样本数量减少至原来的三分之一。