感知的极限：分析 XAI 中显著性图的不一致性
计算机视觉与模式识别
2024-03-26 v1
摘要
可解释人工智能 在揭示 AI 决策过程方面扮演着不可或缺的角色，尤其是在医疗保健行业。临床医生在做出诊断时严重依赖详细的推理，通常通过 CT 扫描寻找区分良恶性病变的特定特征。综合诊断方法包括对影像结果、患者观察和临床测试的评估。在医学诊断中部署深度学习模型作为支持系统的趋势显著，提供了传统方法无法企及的进步。然而，这些模型的复杂性和不透明性犹如一把双刃剑。由于它们作为“黑盒”运行，其推理过程被掩盖且不可访问，这增加了误诊的风险，可能导致患者受到伤害。因此，迫切需要在 AI 系统中培养透明度，确保 AI 诊断建议背后的基本原理对医疗从业者清晰且易于理解。这种向透明度的转变不仅是有益的——它是医疗保健领域负责任地整合 AI 的关键一步，确保 AI 是协助而非阻碍医疗专业人员的关键工作。
引用
@article{arxiv.2403.15684,
title = {The Limits of Perception: Analyzing Inconsistencies in Saliency Maps in XAI},
author = {Anna Stubbin and Thompson Chyrikov and Jim Zhao and Christina Chajo},
journal= {arXiv preprint arXiv:2403.15684},
year = {2024}
}
备注
7 pages, 1 figure, 2 tables