排除不可能，余者必为真
人工智能
2022-12-01 v2 机器学习
计算机科学中的逻辑
摘要
人工智能方法在预测与决策领域的兴起，催生了对更可解释人工智能（XAI）方法的迫切需求。一种常见的 XAI 方法是生成事后解释，用以说明黑箱机器学习模型为何做出特定预测。形式化的事后解释方法能提供简洁的理由，既说明为何做出该预测，也说明为何未做出另一预测。但这些方法假设特征是独立且均匀分布的。虽然这意味着“为何”解释是正确的，但它们可能比所需更长。这也意味着“为何不”解释可能存疑，因其依赖的反例可能并无意义。本文展示了如何应用背景知识，以给出更简洁的“为何”形式化解释（推测更易于人类理解），并提供更准确的“为何不”解释。此外，我们还展示了如何利用现有的规则归纳技术从数据集中高效提取背景信息，以及如何报告在生成解释时使用了哪些背景信息，以便人类在怀疑解释正确性时进行审查。
引用
@article{arxiv.2206.09551,
title = {Eliminating The Impossible, Whatever Remains Must Be True},
author = {Jinqiang Yu and Alexey Ignatiev and Peter J. Stuckey and Nina Narodytska and Joao Marques-Silva},
journal= {arXiv preprint arXiv:2206.09551},
year = {2022}
}