像素锚定的原型部件网络
计算机视觉与模式识别
2023-09-27 v1
摘要
原型部件神经网络（ProtoPartNNs），即 PROTOPNET 及其衍生模型，是一种本质可解释的机器学习方法。其原型学习机制支持形如“此（原型）类似于彼（测试图像块）”的直观解释。但是，这真的类似于彼吗？在本文中，我们深入探究以往工作中对象部件定位及相应热力图具有误导性的原因。与生成的解释性可视化相反，现有的 ProtoPartNNs 定位的是整幅图像而非对象部件。我们认为，对这些潜在问题的忽视源于可视化的诱人特性以及对直觉的过度依赖。为缓解这些问题，我们设计了基于感受野的新架构约束以实现有意义的定位，以及一种用于 ProtoPartNNs 的原则性像素空间映射。为提升可解释性，我们提出了额外的架构改进，包括简化的分类头。我们还对 PROTOPNET 及其衍生模型做了其他修正，例如在训练期间使用验证集而非测试集来评估泛化能力。我们的方法 PIXPNET（像素锚定的原型部件网络）是唯一真正学习并定位到原型对象部件的原型部件神经网络。我们证明，PIXPNET 在保持准确率不降的前提下，实现了可量化提升的可解释性。
引用
@article{arxiv.2309.14531,
title = {Pixel-Grounded Prototypical Part Networks},
author = {Zachariah Carmichael and Suhas Lohit and Anoop Cherian and Michael Jones and Walter Scheirer},
journal= {arXiv preprint arXiv:2309.14531},
year = {2023}
}
备注
21 pages