SpecReX：针对拉曼光谱的可解释 AI
机器学习
2025-03-20 v1 人工智能
医学物理
摘要
拉曼光谱正在越来越多地用于医学诊断，深度学习模型也日益增多地用于充分发挥其潜力。然而，这些模型的不可见性以及医学诊断的敏感性和监管要求，使得可解释 AI 工具的需求日益增长。我们引入SpecReX，专为解释拉曼光谱而设计。SpecReX 使用实际因果理论对光谱中产生的因果责任进行排序，通过迭代细化被扰变的光谱版本并测试其是否保留原始分类来量化其责任。在光谱中，SpecReX 提供的解释形式为责任图，突出显示对模型做出正确分类最有责任的光谱区域。为评估SpecReX的有效性，我们创建越来越复杂的模拟光谱，其中种植“ground truth”信号以训练分类器。然后获取SpecReX解释并与另一种可解释性工具进行比较。通过使用模拟光谱，我们在各种条件下证明SpecReX能够定位到类别之间的已知差异。这为找到区分疾病类别的光谱特征提供了基础。这是一个在证明SpecReX有效性的重要第一步。
引用
@article{arxiv.2503.14567,
title = {SpecReX: Explainable AI for Raman Spectroscopy},
author = {Nathan Blake and David A. Kelly and Akchunya Chanchal and Sarah Kapllani-Mucaj and Geraint Thomas and Hana Chockler},
journal= {arXiv preprint arXiv:2503.14567},
year = {2025}
}
备注
AAAI Workshop on Health Intelligencee (W3PHIAI-25)