AnyCBMs：如何将任意黑盒模型转化为概念瓶颈模型
机器学习
2024-05-28 v1
摘要
可解释深度学习旨在开发其决策过程能被用户理解的神经架构。在这些技术中，概念瓶颈模型通过整合一层人类可理解的概念来增强神经网络的可解释性。然而，这些模型需要从头开始训练新模型，消耗大量资源，且未能利用已训练好的大型模型。为解决此问题，我们引入了“AnyCBM”，一种能将任何现有已训练模型转化为概念瓶颈模型的方法，且对计算资源的影响极小。我们从理论和实验两方面提供了见解，展示了AnyCBM在分类性能以及在下游任务上进行基于概念干预的有效性方面的优势。
引用
@article{arxiv.2405.16508,
title = {AnyCBMs: How to Turn Any Black Box into a Concept Bottleneck Model},
author = {Gabriele Dominici and Pietro Barbiero and Francesco Giannini and Martin Gjoreski and Marc Langhenirich},
journal= {arXiv preprint arXiv:2405.16508},
year = {2024}
}