融合深度学习表示与专家知识图的可解释神经-符号学习（X-NeSyL）方法：MonuMAI 文化遗产用例
机器学习
2021-10-15 v2 人工智能
计算机视觉与模式识别
符号计算
摘要
最新的深度学习（DL）检测与分类模型相较经典机器学习算法取得了前所未有的性能。然而，DL 模型是难以调试、解释和认证的黑盒方法。DL 单独无法提供可供非技术受众验证的解释。相反，将概念转换为规则或符号（如知识图）的符号 AI 系统更易于解释，但其泛化与扩展能力较低。一个非常重要的挑战是融合 DL 表示与专家知识。应对该挑战以及性能-可解释性权衡的一种方式是兼取两者之长而不忽视领域专家知识。我们通过将符号知识表达为领域专家知识图的形式来解决此问题。我们提出可解释神经-符号学习（X-NeSyL）方法，旨在同时学习符号与深度表示，并配以可解释性度量来评估机器与人类专家解释的吻合程度。最终目标是在学习过程中将 DL 表示与专家领域知识融合，作为可解释性的可靠基础。X-NeSyL 方法具体在推理与训练时分别运用两种解释概念：1）EXPLANet：专家对齐可解释基于部件的分类器网络架构，一种利用符号表示的组合式 CNN；2）SHAP-Backprop：一种可解释 AI 引导的训练流程，指导 DL 过程与此类知识图形式的符号表示相对齐。我们使用 MonuMAI 数据集用于纪念性建筑立面图像分类来展示 X-NeSyL 方法，并证明我们的方法提升了可解释性与性能。
引用
@article{arxiv.2104.11914,
title = {EXplainable Neural-Symbolic Learning (X-NeSyL) methodology to fuse deep learning representations with expert knowledge graphs: the MonuMAI cultural heritage use case},
author = {Natalia Díaz-Rodríguez and Alberto Lamas and Jules Sanchez and Gianni Franchi and Ivan Donadello and Siham Tabik and David Filliat and Policarpo Cruz and Rosana Montes and Francisco Herrera},
journal= {arXiv preprint arXiv:2104.11914},
year = {2021}
}