基于结构因果关系的通用概念发现模型
机器学习
2024-10-22 v1 统计方法学
摘要
可解释深度神经网络架构的需求日益增长，已利用语义概念作为可解释单元。虽然利用解缠表示学习的若干方法估计生成因子并用作解释 DNN 的概念，但即使生成因子对于数据集保持固定，概念也并非固定实体，随下游任务而变化。在本文中，我们提出一种解缠机制，利用变分自编码器 (VAE) 为给定数据集学习相互独立的生成因子，然后利用结构因果模型 (SCM) 学习任务特定的概念。我们的方法假设生成因子和概念形成二分图，沿生成因子到概念的有向因果边。实验在已知生成因子的数据集上进行：D-sprites 和 Shapes3D。在特定下游任务上，我们提出的方法成功学习了由生成因子到概念的因果边所解释的任务特定概念。最后，与当前因果概念发现方法不同，我们的方法对任意数量的概念具有可扩展性，灵活适用于任何下游任务。
引用
@article{arxiv.2410.15491,
title = {Structural Causality-based Generalizable Concept Discovery Models},
author = {Sanchit Sinha and Guangzhi Xiong and Aidong Zhang},
journal= {arXiv preprint arXiv:2410.15491},
year = {2024}
}