基于变分自编码器可证明概念学习实现可解释预测
机器学习
2022-07-25 v3 统计方法学
摘要
在安全关键应用中，当无可解释说明时，从业者不愿信任神经网络。许多提供此类解释的尝试围绕基于像素的归因或使用已知概念展开。本文旨在通过可证明地识别\emph{高层、先前未知的 ground-truth 概念}来提供解释。为此，我们提出一种概率建模框架以推导（C）oncept（L）earning and（P）rediction（CLAP）——一种基于 VAE 的分类器，其使用视觉可解释概念作为简单分类器的预测因子。假设 ground-truth 概念存在生成模型，我们证明 CLAP 能够识别这些概念同时达到最优分类精度。我们在合成数据集上的实验验证了 CLAP 能识别合成数据集上不同的 ground-truth 概念，并在医学 Chest X-Ray 数据集上取得了有前景的结果。
引用
@article{arxiv.2204.00492,
title = {Provable concept learning for interpretable predictions using variational autoencoders},
author = {Armeen Taeb and Nicolo Ruggeri and Carina Schnuck and Fanny Yang},
journal= {arXiv preprint arXiv:2204.00492},
year = {2022}
}