基于近失配方法的归纳逻辑编程对比解释生成
机器学习
2021-06-16 v1 人工智能
摘要
在近期研究中，机器学习模型的可被人理解的解释受到了大量关注。解释通常以模型简化或可视化的形式给出。然而，正如认知科学以及早期 AI 研究所表明的，通过将某一概念的一个给定实例与一个相似的反例进行比对，也可以改进概念理解。将一个给定实例与一个不属于该概念但结构相似的例子进行对比，能凸显出概念成员资格所需的特征。此类近失配（near miss）由 Winston（1970）提出，作为关系域中学习的有效引导。我们引入了一种用于归纳逻辑编程（\textsc{GeNME}）学习到的关系概念的解释生成算法。该算法从给定实例集合中识别近失配示例，并根据这些示例与特定正实例的接近程度进行排序。给出一个覆盖近失配但不覆盖原始实例的修改规则作为解释。我们用著名的包含亲属关系的家族域、视觉关系 Winston 拱域以及处理文件管理的真实世界域来说明 \textsc{GeNME}。我们还展示了一个心理实验，比较人类对家族域和拱域中基于规则、基于示例和近失配解释的偏好。
引用
@article{arxiv.2106.08064,
title = {Generating Contrastive Explanations for Inductive Logic Programming Based on a Near Miss Approach},
author = {Johannes Rabold and Michael Siebers and Ute Schmid},
journal= {arXiv preprint arXiv:2106.08064},
year = {2021}
}