TVE：面向可迁移视觉解释器的元归因学习
机器学习
2024-07-17 v2 人工智能
计算机视觉与模式识别
摘要
可解释机器学习显著提升了深度神经网络的透明度。然而，现有工作局限于解释单个模型预测的行为，缺乏在不同模型和任务间迁移解释的能力。这一局限性导致解释各种任务时耗费大量时间和资源。为解决这一问题，我们提出了一种可迁移视觉解释器（TVE），能够有效解释下游任务中的各种视觉模型。具体而言，TVE 的可迁移性是通过对大规模数据集进行预训练以学习元归因来实现的。这种元归因利用通用骨干编码器的多功能性，对输入实例的归因知识进行全面编码，使 TVE 能够无缝迁移以解释各种下游任务，而无需在任务特定数据上进行训练。实证研究涉及在三个不同的下游数据集上解释三种不同架构的视觉模型。实验结果表明，TVE 在无需对下游数据进行额外训练的情况下，能有效解释这些任务。
引用
@article{arxiv.2312.15359,
title = {TVE: Learning Meta-attribution for Transferable Vision Explainer},
author = {Guanchu Wang and Yu-Neng Chuang and Fan Yang and Mengnan Du and Chia-Yuan Chang and Shaochen Zhong and Zirui Liu and Zhaozhuo Xu and Kaixiong Zhou and Xuanting Cai and Xia Hu},
journal= {arXiv preprint arXiv:2312.15359},
year = {2024}
}