将特征描述符与图像对齐以实现类人专家可解释性
计算机视觉与模式识别
2024-11-07 v1 人工智能
摘要
在执法和医学诊断等关键任务领域，解释和解读深度学习模型输出的能力对于确保用户信任和支持知情决策至关重要。尽管可解释性取得了进展，现有方法通常无法提供反映人类专家深度和清晰度的解释。此类专家级解释对于深度学习模型在执法和医学背景中的可靠应用至关重要。此外，我们认识到现实世界中的大多数解释主要通过自然语言传达。为满足这些需求，我们提出了一种利用特征描述符解释模型决策的新方法，通过识别其在图像中的存在，从而生成类专家级别的解释。我们的方法在模型架构中引入了一个概念瓶颈层，计算图像与描述符编码之间的相似性，以提供内在且忠实于模型的解释。通过人脸识别和胸部X光诊断实验，我们证明了我们的方法与现有通常仅限于使用显著性图的技术形成了显著对比。我们认为我们的方法代表了使深度学习系统在人脸识别和医学诊断等关键领域更具问责性、透明度和可信度的重要一步。
引用
@article{arxiv.2411.04008,
title = {Aligning Characteristic Descriptors with Images for Human-Expert-like Explainability},
author = {Bharat Chandra Yalavarthi and Nalini Ratha},
journal= {arXiv preprint arXiv:2411.04008},
year = {2024}
}