基于Shapley值解释的CQD-SHAP：可解释的复杂查询答案
机器学习
2025-10-20 v1 人工智能
摘要
复杂查询答案（CQA）超越了已深入研究的链接预测任务，旨在解决需在不完整知识图谱（KG）上进行多跳推理的更复杂查询。神经网络和神经符号 CQA 方法的研究仍处于新兴领域。几乎所有这些方法都可视为黑箱模型，可能引发用户信任 concerns。尽管神经符号方法如 CQD 稍显可解释，允许跟踪中间结果，但查询各部分的重要性仍未得到解释。本文提出 CQD-SHAP，一种新框架，用于计算每个查询部分对特定答案排序的贡献。该贡献解释了神经预测器从不完整 KG 中推理获取新知识的价值，而非仅依赖 KG 中现有事实的符号方法。CQD-SHAP 基于合作博弈论中的Shapley值进行建模，并满足所有基本Shapley公理。自动评估这些解释的充分性与必要性，并与各种基线方法进行比较，显示该方法对大多数查询类型均有效。
引用
@article{arxiv.2510.15623,
title = {CQD-SHAP: Explainable Complex Query Answering via Shapley Values},
author = {Parsa Abbasi and Stefan Heindorf},
journal= {arXiv preprint arXiv:2510.15623},
year = {2025}
}