迈向无监督概念模型中更好的泛化能力与可解释性

为了提高深度神经网络的可信度，增进对其如何做出决策的理解至关重要。本文提出了一种用于图像分类的新型无监督概念模型，名为可学习概念模型 (LCBM)，该模型将概念建模为伯努利潜在空间中的随机变量。传统方法要么需要大量的人工监督，要么可扩展性有限，与此不同的是，我们的方法使用了较少的概念数量而不牺牲性能。我们证明，LCBM 在泛化能力上超越了现有的无监督概念模型，并且几乎达到了黑盒模型的性能。所提出的概念表示增强了信息保留，并与人类理解更为契合。一项用户研究表明，所发现的概念对人类而言也更直观易于解释。最后，尽管使用了概念嵌入，我们通过概念的局部线性组合保持了模型的可解释性。