贝叶斯网络分类器的基于影响力的解释
人工智能
2021-03-11 v3
摘要
近年来 AI 中最紧迫的问题之一是亟需解决许多模型缺乏可解释性的状况。我们聚焦于离散贝叶斯网络分类器（BCs）的解释，通过在其解释中包含中间变量而非如标准做法仅包含输入与输出变量，以 targeting 其内在运作的更高透明度。所提出的 BCs 的基于影响驱动的解释（IDXs）利用 BC 内变量间的因果关系（称为影响）系统性地生成，随后按逻辑要求（称为关系属性）依据其行为分类。这些关系属性既提供了超越启发式解释方法的保证，又允许支撑解释的信息针对特定情境与用户需求定制，例如，IDXs 可以是辩证的或反事实的。我们展示了 IDXs 解释各类 BCs 的能力，例如朴素或多标签、二值或类别型，并整合了文献中近期针对 BCs 的解释方法。我们通过理论与实证分析评估 IDXs，证明其相较现有解释方法的显著优势。
引用
@article{arxiv.2012.05773,
title = {Influence-Driven Explanations for Bayesian Network Classifiers},
author = {Antonio Rago and Emanuele Albini and Pietro Baroni and Francesca Toni},
journal= {arXiv preprint arXiv:2012.05773},
year = {2021}
}
备注
11 pages, 2 figures