面向用户的可解释性——原型部件网络的交互式对齐
计算机视觉与模式识别
2025-06-09 v1 人机交互
摘要
概念基准的可解释神经网络因其基于案例推理（如“这只鸟看起来像这些麻雀”）所提供的直观易懂解释而受到广泛关注。然而，这些解释可能因概念不一致而难以被用户理解，即多个视觉特征被不恰当地混合（例如，鸟的头部和翅膀被视为单个概念）。这种不一致会破坏模型推理与人类理解之间的对齐。此外，用户对概念的外观有特定偏好，而现有方法没有机制来整合他们的反馈。为此，我们提出了 YoursProtoP，这是一种新型交互策略，使模型用于预测和解释的原型部件（即模型使用的视觉概念）能够根据用户需求进行个性化。通过纳入用户监督，YoursProtoP 能够调整和拆分用于预测和解释的概念，以更好地匹配用户的偏好和理解。在针对合成数据集 FunnyBirds 以及针对 CUB、CARS 和 PETS 数据集的大型用户研究中，我们证明了 YoursProtoP 在不牺牲模型准确性的前提下，能够实现概念一致性。
引用
@article{arxiv.2506.05533,
title = {Personalized Interpretability -- Interactive Alignment of Prototypical Parts Networks},
author = {Tomasz Michalski and Adam Wróbel and Andrea Bontempelli and Jakub Luśtyk and Mikolaj Kniejski and Stefano Teso and Andrea Passerini and Bartosz Zieliński and Dawid Rymarczyk},
journal= {arXiv preprint arXiv:2506.05533},
year = {2025}
}
备注
20 pages, 11 figures