论 post-hoc 解释在医学 AI 中的正当性
人机交互
2026-02-06 v1 人工智能
计算机与社会
机器学习
摘要
自可解释 AI 运动之日，post-hoc 解释便因其潜在的改善用户理解、促进信任并减少医学 AI 系统中患者安全风险的作用而备受赞誉。然而，最近的批评者认为，post-hoc 解释的好处被大大高估了，因为它们仅近似，而不是复制，黑箱系统为得出其输出所采取的实际推理过程。本文旨在对此最新批评进行捍卫。我们认为，即使 post-hoc 解释不复制黑箱系统的确切推理过程，它们仍然可以改善用户对黑箱系统的功能性理解，提高临床医生与 AI 团队的准确度，并帮助医生为其 AI 信息化决策提供合理理由。虽然 post-hoc 解释并非医学 AI 中黑箱问题的“灵丹妙药”，但我们认为它们仍然是解决医学 AI 中黑箱问题的有用策略。
关键词
引用
@article{arxiv.2504.20741,
title = {In defence of post-hoc explanations in medical AI},
author = {Joshua Hatherley and Lauritz Munch and Jens Christian Bjerring},
journal= {arXiv preprint arXiv:2504.20741},
year = {2026}
}