基于全局类激活概率图评估和 SafeML 的更安全皮肤 lesion 分类
计算机视觉与模式识别
2025-08-29 v1 人工智能
摘要
近期皮肤 lesion 分类模型的进展显著提升了准确性，部分模型甚至超过了皮肤科医生的诊断水平。然而，在医疗实践中，对 AI 模型的不信任仍然是一个挑战。除了高准确率外，可信赖、可解释的诊断至关重要。现有可解释性方法存在可靠性问题，LIME-based 方法存在不一致性，而 CAM-based 方法则未能考虑所有类别。为此，我们提出了全局类激活概率图评估（Global Class Activation Probabilistic Map Evaluation），该方法以像素水平对所有类别的激活概率图进行概率性分析。通过统一的方式可视化诊断过程，有助于降低误诊风险。此外，SafeML 的应用可增强对虚假诊断的检测，并在必要时向医生和患者发出警告，从而提高诊断可靠性并最终改善患者安全性。我们使用 MobileNetV2 和 Vision Transformers 在 ISIC 数据集上对方法进行了评估。
引用
@article{arxiv.2508.20776,
title = {Safer Skin Lesion Classification with Global Class Activation Probability Map Evaluation and SafeML},
author = {Kuniko Paxton and Koorosh Aslansefat and Amila Akagić and Dhavalkumar Thakker and Yiannis Papadopoulos},
journal= {arXiv preprint arXiv:2508.20776},
year = {2025}
}