XAI-KG：支持制造业中可解释人工智能与决策的知识图谱
人工智能
2021-05-07 v2
摘要
人工智能的日益普及需要准确的预测，以及理解人工智能模型做出此类预测背后推理的方法。可解释人工智能(XAI)旨在为模型为何给出特定预测提供线索。此类线索对决策至关重要，因为它们揭示了最影响特定预测的特征，并让用户决定是否可信赖该预测。尽管已开发许多技术来解释黑盒模型，但关于评估这些解释的质量及其对决策影响的研究甚少。我们提出一种本体与知识图谱，以支持收集关于预测、预测解释、推荐决策选项及用户反馈的信息。由此，我们提供了改进预测模型、解释及决策选项推荐的手段。我们使该知识图谱适配需求预测领域，并在真实数据上进行了验证。
引用
@article{arxiv.2105.01929,
title = {XAI-KG: knowledge graph to support XAI and decision-making in manufacturing},
author = {Jože M. Rožanec and Patrik Zajec and Klemen Kenda and Inna Novalija and Blaž Fortuna and Dunja Mladenić},
journal= {arXiv preprint arXiv:2105.01929},
year = {2021}
}