一次被愚弄了吗？临床决策支持环境下文本与视觉解释的对比研究
人机交互
2024-10-22 v2 计算与语言
计算机视觉与模式识别
摘要
AI 模型的能力日益提升，推动其在更广泛应用场景中的部署，包括安全关键型领域。可解释 AI (XAI) 旨在通过使模型推理过程更透明来提高模型的安全使用性。然而，当前的可解释性方法很少按照其设计用途进行评估，即由真实世界的终端用户进行评估。为此，我们在人类-AI协同的胸部X光诊断场景中，开展了规模为85名医疗从业者的大型用户研究。我们评估了三种类型的解释：视觉解释（显著性图）、自然语言解释以及两者的组合。我们特别检验了不同解释类型如何影响用户在AI建议和解释是否事实正确的前提下的行为。我们发现，基于文本的解释会导致显著的过度依赖，而将其与显著性图结合可有效缓解这一现象。我们还观察到，解释的质量——即它们包含多少事实正确信息以及与AI正确性的匹配程度——对不同解释类型的实用性产生显著影响。
引用
@article{arxiv.2410.12284,
title = {Fool Me Once? Contrasting Textual and Visual Explanations in a Clinical Decision-Support Setting},
author = {Maxime Kayser and Bayar Menzat and Cornelius Emde and Bogdan Bercean and Alex Novak and Abdala Espinosa and Bartlomiej W. Papiez and Susanne Gaube and Thomas Lukasiewicz and Oana-Maria Camburu},
journal= {arXiv preprint arXiv:2410.12284},
year = {2024}
}
备注
EMNLP 2024