探究解释内容与格式对医疗保健中用户理解与信任的影响
人工智能
2025-08-22 v4
摘要
医疗保健领域的人工智能驱动工具被广泛认为可能对医疗从业者和患者有益, 例如用于癌症风险预测的 QCancer 回归工具。然而, 要使这些工具获得信任, 需要辅以解释。我们研究了解释的内容和格式如何影响用户对 QCancer 预测的理解与信任。在内容方面, 我们采用了 SHAP 和 Occlusion-1 解释方法。在格式方面, 我们按常规将 SHAP 解释呈现为图表 (SC), 将 Occlusion-1 解释呈现为图表 (OC) 以及文本 (OT), 其简单的性质使其易于转化为文本格式。我们对两组利益相关者进行了实验: 普通公众 (代表患者) 和医学生 (代表医疗从业者)。我们的实验表明, 基于内容, Occlusion-1 解释在主观理解和信任方面优于 SHAP 解释。然而, 在控制格式变量时, 只有 OT 优于 SC, 这表明该趋势是由对文本的偏好所驱动的。其他发现也证实, 解释格式而非内容往往是关键因素。
引用
@article{arxiv.2408.17401,
title = {Exploring the Effect of Explanation Content and Format on User Comprehension and Trust in Healthcare},
author = {Antonio Rago and Bence Palfi and Purin Sukpanichnant and Hannibal Nabli and Kavyesh Vivek and Olga Kostopoulou and James Kinross and Francesca Toni},
journal= {arXiv preprint arXiv:2408.17401},
year = {2025}
}
备注
12 pages. To be published at The 14th Conference on Prestigious Applications of Intelligent Systems (PAIS-2025)