原型生成：面向数据无关可解释性的鲁棒特征可视化
计算机视觉与模式识别
2023-10-02 v1 人工智能
人机交互
机器学习
摘要
我们提出原型生成，一种更严格、更鲁棒的特征可视化形式，用于图像分类模型的模型无关、数据无关可解释性。我们展示了其生成能引发自然激活路径的输入的能力，反驳了先前关于特征可视化算法因不自然的内部激活而不可信的说法。我们通过定量测量所生成原型与自然图像的内部激活之间的相似性来证实这些主张。我们还展示了生成原型的解释如何带来重要洞见，揭示模型所学到的伪相关与偏置，而这些是测试集上的定量方法无法识别的。
引用
@article{arxiv.2309.17144,
title = {Prototype Generation: Robust Feature Visualisation for Data Independent Interpretability},
author = {Arush Tagade and Jessica Rumbelow},
journal= {arXiv preprint arXiv:2309.17144},
year = {2023}
}