DAVE:基于 ViT 梯度分解的分布感知归因
计算机视觉与模式识别
2026-02-09 v1 人工智能
人机交互
机器学习
摘要
Vision Transformers(ViT)已成为计算机视觉领域的主导架构,但为这些模型生成稳定且高分辨率的归因图仍具有挑战性。诸如 patch 嵌入和注意力路由等架构组件常会在像素级解释中引入结构性伪影,导致许多现有方法仅能依赖粗糙的 patch 级归因。我们引入 DAVE(Distribution-aware Attribution via ViT Gradient Decomposition,基于 ViT 梯度分解的分布感知归因),这是一种针对 ViT 的数学方法,基于输入梯度的结构分解来实现归因。通过利用 ViT 的架构属性,DAVE 可隔离有效输入-输出映射中局部等变且稳定的组成部分,并将其与架构引起的伪影及其他不稳定性来源分离。
引用
@article{arxiv.2602.06613,
title = {DAVE: Distribution-aware Attribution via ViT Gradient Decomposition},
author = {Adam Wróbel and Siddhartha Gairola and Jacek Tabor and Bernt Schiele and Bartosz Zieliński and Dawid Rymarczyk},
journal= {arXiv preprint arXiv:2602.06613},
year = {2026}
}
备注
work under review. Code will be released upon acceptance