ConceptDistil：与模型无关的概念解释蒸馏方法
机器学习
2022-05-10 v1 人工智能
摘要
基于概念的解释旨在填补非技术背景的人在环中的模型可解释性鸿沟。以往的工作集中于为特定模型（例如神经网络）或数据类型（例如图像）提供概念，并且要么试图从已训练好的网络中提取概念，要么通过多任务学习训练自解释模型。在本工作中，我们提出 ConceptDistil，一种利用知识蒸馏为任意黑盒分类器引入概念解释的方法。ConceptDistil 分解为两个组件：（1）一个概念模型，预测给定实例中存在哪些领域概念；（2）一个蒸馏模型，试图利用概念模型的预测来模仿黑盒模型的预测。我们在一个真实世界用例中验证了 ConceptDistil，表明它能够同时优化两项任务，为任意黑盒模型带来概念可解释性。
引用
@article{arxiv.2205.03601,
title = {ConceptDistil: Model-Agnostic Distillation of Concept Explanations},
author = {João Bento Sousa and Ricardo Moreira and Vladimir Balayan and Pedro Saleiro and Pedro Bizarro},
journal= {arXiv preprint arXiv:2205.03601},
year = {2022}
}
备注
ICLR 2022 PAIR2Struct Workshop