QPM：面向全局可解释性图像分类的离散优化
计算机视觉与模式识别
2025-02-28 v1 人工智能
人机交互
机器学习
摘要
理解深度神经网络的分类结果——例如在安全关键场景中使用的模型——的解释性正在变得越来越重要。虽然最近的模型可以对单个决策进行局部解释，但为提供关于准确模型整体行为的可靠全局解释仍是一个更具挑战性的开放问题。为此目标，我们提出了Quadratic Programming Enhanced Model (QPM)，它学习全局可解释的类别表示。QPM 用二进制方式为每个类别分配少量特征（通常为5个），这些特征也被分配给其他类别，从而确保易于比较的对比式类别表示。通过基于预定义相似性度量和可解释性约束的离散优化找到紧凑的二进制分配。 resulting optimal assignment 用于微调这些特征，以使每个特征都成为被分配类别之间的共享通用概念。广泛的评估表明，QPM 在小规模和大规模数据集上实现了前所未有的全局可解释性，同时在可解释模型的准确率方面达到了该领域的状态突破。
引用
@article{arxiv.2502.20130,
title = {QPM: Discrete Optimization for Globally Interpretable Image Classification},
author = {Thomas Norrenbrock and Timo Kaiser and Sovan Biswas and Ramesh Manuvinakurike and Bodo Rosenhahn},
journal= {arXiv preprint arXiv:2502.20130},
year = {2025}
}