GANterfactual——基于生成对抗学习的面向非专业医学用户的反事实解释
机器学习
2022-05-10 v3 人工智能
计算机视觉与模式识别
人机交互
神经与进化计算
摘要
随着机器学习的持续发展,解释人工智能系统所做决策的方法之需求正成为愈发重要的课题。尤其对于图像分类任务,许多解释此类分类器的前沿工具依赖于对输入数据重要区域的视觉高亮。相反,反事实解释系统试图通过修改输入图像使分类器给出不同预测,从而实现反事实推理。借此,反事实解释系统的用户获得了一种完全不同的解释信息。然而,为图像分类器生成逼真反事实解释的方法仍很稀少。尤其在医学语境中,相关信息常由纹理与结构信息构成,高质量反事实图像有潜力提供对决策过程的有意义洞察。本工作中,我们提出 GANterfactual,一种基于对抗图像到图像翻译技术生成此类反事实图像解释的方法。此外,我们开展用户研究,在示例医学用例中评估该方法。结果表明,在所择医学用例中,相较于两种使用显著图的前沿系统 LIME 与 LRP,反事实解释在心智模型、解释满意度、信任、情绪与自我效能方面带来显著更优的结果。
引用
@article{arxiv.2012.11905,
title = {GANterfactual - Counterfactual Explanations for Medical Non-Experts using Generative Adversarial Learning},
author = {Silvan Mertes and Tobias Huber and Katharina Weitz and Alexander Heimerl and Elisabeth André},
journal= {arXiv preprint arXiv:2012.11905},
year = {2022}
}