基于原型的联合嵌入方法提高软最大分类器的可解释性
机器学习
2024-07-17 v2
摘要
我们提出了一种基于原型的方法，用于提高软最大分类器的可解释性，通过对原型进行蒙特卡罗采样生成可理解的预测置信度，并展示了其在分布外检测（OOD）方面的潜力。通过修改模型架构和训练方式，使预测依赖于对训练数据集中任意类别示例相似度的计算，我们获得了对为预测贡献的原型示例进行采样的能力，这些示例为模型决策提供了基于实例的解释。此外，通过学习训练数据集中图像之间的关系（通过模型潜在空间中的相对距离），我们获得了一种比软最大置信度更能检测分布外数据的不确定性度量。
引用
@article{arxiv.2407.02271,
title = {Improving Explainability of Softmax Classifiers Using a Prototype-Based Joint Embedding Method},
author = {Hilarie Sit and Brendan Keith and Karianne Bergen},
journal= {arXiv preprint arXiv:2407.02271},
year = {2024}
}
备注
8 pages, 8 figures, accepted at 2024 IJCAI-XAI workshop