OCCAM：面向黑盒视觉模型的开集因果概念解释与本体归纳
人工智能
2026-05-19 v1
摘要
解释深度图像分类器的决策仍然具有挑战性，尤其是在无法访问模型内部的黑盒设置中。我们引入了 OCCAM，一个用于视觉模型开集因果概念解释和本体归纳的框架。OCCAM 以开集方式发现视觉概念，通过文本引导的分割对其进行定位，并通过移除概念执行对象级干预以测量类别置信度的变化，从而估计每个概念的因果贡献。除了局部解释之外，OCCAM 聚合整个数据集上的干预证据，以归纳出一个结构化的概念本体，捕捉分类器如何全局组织视觉概念。对该本体进行推理揭示了概念之间的一致依赖关系，暴露了潜在的因果关系，并发现了系统性的模型偏差。在 Broden 和 ImageNet-S 上对多个分类器进行的实验表明，OCCAM 提高了开集黑盒设置下的解释质量，同时提供了比逐图像归因方法更丰富的全局洞察。
引用
@article{arxiv.2605.18481,
title = {OCCAM: Open-set Causal Concept explAnation and Ontology induction for black-box vision Models},
author = {Chiara Maria Russo and Simone Carnemolla and Simone Palazzo and Daniela Giordano and Concetto Spampinato and Matteo Pennisi},
journal= {arXiv preprint arXiv:2605.18481},
year = {2026}
}