可解释深度易处理概率模型：和积网络案例
机器学习
2022-09-23 v2
摘要
我们考虑解释一类易处理的深度概率模型——和积网络（SPNs）的问题，并提出了一种生成解释的算法 ExSPN。为此，我们定义了上下文特定独立树（CSI-tree）的概念，并提出了一种将 SPN 转换为 CSI-tree 的迭代算法。所得的 CSI-tree 既可被解释，也可向领域专家说明。我们通过提取 SPN 所编码的条件独立性，并近似由 SPN 结构指定的局部上下文来实现这一点。我们在合成、标准和真实世界临床数据集上的广泛实证评估表明，CSI-tree 展现出优越的可解释性。
引用
@article{arxiv.2110.09778,
title = {Explaining Deep Tractable Probabilistic Models: The sum-product network case},
author = {Athresh Karanam and Saurabh Mathur and Predrag Radivojac and David M. Haas and Kristian Kersting and Sriraam Natarajan},
journal= {arXiv preprint arXiv:2110.09778},
year = {2022}
}
备注
Main paper: 8 pages, references: 1 page. Main paper: 4 figures