可解释 AI 的客观度量：如何及为何估计可解释度
人工智能
2023-08-21 v5 计算与语言
摘要
可解释 AI 诞生之初即为人类探索和理解复杂系统内部运作的途径。然而，界定何为解释并客观评估可解释性并非易事。本文提出一种与模型无关的度量，以客观方式衡量信息的可解释度（Degree of Explainability）。我们利用了普通语言哲学中称为 Achinstein 解释理论的具体理论模型，借助基于深度语言模型的知识图谱抽取与信息检索算法实现。为理解该度量能否测量可解释性，我们设计了若干实验及涉及 190 余名参与者的用户研究，使用包括人工神经网络与 TreeSHAP 在内的著名 AI 技术评估医疗与金融领域的两个现实系统。所得结果具统计显著性（P 值低于 .01），表明我们所提可解释度度量在多种场景下稳健，且与具体预期一致。
引用
@article{arxiv.2109.05327,
title = {An Objective Metric for Explainable AI: How and Why to Estimate the Degree of Explainability},
author = {Francesco Sovrano and Fabio Vitali},
journal= {arXiv preprint arXiv:2109.05327},
year = {2023}
}
备注
24 pages, 7 figures, 6 tables, Source code available at: https://github.com/Francesco-Sovrano/DoXpy