类皮肤科医生的可解释人工智能增强黑色素瘤诊断中的信任与信心
定量方法
2026-01-23 v1 计算机视觉与模式识别
机器学习
图像与视频处理
摘要
尽管人工智能(AI)系统已被证明可提高黑色素瘤初步诊断的准确性,但这些系统如何识别黑色素瘤缺乏透明度,给用户接受度带来了严重障碍。可解释人工智能(XAI)方法有助于增加透明度,但大多数 XAI 方法无法产生精确定位的领域特定解释,使得解释难以解读。此外,XAI 方法对皮肤科医生的影响尚未得到评估。基于两个现有分类器,我们开发了一个 XAI 系统,该系统产生文本和区域形式的解释,皮肤科医生可轻松解读,同时给出黑色素瘤与痣的鉴别诊断。为评估该系统,我们开展了一项三部分读者研究,以评估其对临床医生诊断准确性、信心及对 XAI 支持的信任的影响。我们表明,我们的 XAI 解释与临床医生的解释高度一致,并且与使用传统 AI 系统相比,使用我们的 XAI 时临床医生对支持系统的信任及其对诊断的信心均显著提升。临床医生的诊断准确性在数值上有所提高,但未达到显著水平。本工作表明临床医生愿意采用此类 XAI 系统,为其未来在临床中的应用提供了动力。
引用
@article{arxiv.2303.12806,
title = {Dermatologist-like explainable AI enhances trust and confidence in diagnosing melanoma},
author = {Tirtha Chanda and Katja Hauser and Sarah Hobelsberger and Tabea-Clara Bucher and Carina Nogueira Garcia and Christoph Wies and Harald Kittler and Philipp Tschandl and Cristian Navarrete-Dechent and Sebastian Podlipnik and Emmanouil Chousakos and Iva Crnaric and Jovana Majstorovic and Linda Alhajwan and Tanya Foreman and Sandra Peternel and Sergei Sarap and İrem Özdemir and Raymond L. Barnhill and Mar Llamas Velasco and Gabriela Poch and Sören Korsing and Wiebke Sondermann and Frank Friedrich Gellrich and Markus V. Heppt and Michael Erdmann and Sebastian Haferkamp and Konstantin Drexler and Matthias Goebeler and Bastian Schilling and Jochen S. Utikal and Kamran Ghoreschi and Stefan Fröhling and Eva Krieghoff-Henning and Titus J. Brinker},
journal= {arXiv preprint arXiv:2303.12806},
year = {2026}
}