基于决策树的全局模型解释的人类可理解性评估
人工智能
2024-02-01 v1 人机交互
机器学习
摘要
在可解释人工智能（XAI）研究中，主要焦点一直是对专家和从业者解释模型。模型无关和局部解释方法在许多应用中被认为是可解释且充分的。然而，在诸如医疗保健等领域，最终用户是不具备 AI 或领域专业知识的患者，迫切需要对模型更具可理解性并能建立对模型运作信任的模型解释。我们假设，生成叙述性的、患者特定的且全局的（模型整体性的）模型解释将能够实现更好的可理解性并支持决策。我们使用决策树模型为被识别为冠心病高风险的患者生成局部和全局解释来检验这一点。这些解释被呈现给非专家用户。我们发现对特定类型解释存在强烈的个体偏好。大多数参与者偏好全局解释，而较小群体偏好局部解释。基于任务的这些参与者的心智模型评估提供了有价值的反馈以改进叙述性全局解释。这进而指导了既可信又可操作的健康信息学系统的设计。
引用
@article{arxiv.2309.09917,
title = {Evaluation of Human-Understandability of Global Model Explanations using Decision Tree},
author = {Adarsa Sivaprasad and Ehud Reiter and Nava Tintarev and Nir Oren},
journal= {arXiv preprint arXiv:2309.09917},
year = {2024}
}