面向医疗AI的扰动基于解释：可微分程序

近期机器学习算法的发展使得医疗设备能够配备人工智能(AI)模型，用于临床环境中的诊断支持和常规自动化。在医学和医疗保健领域，对AI模型生成结果的充分且客观的可解释性有特定需求。然而，AI模型通常被视为黑箱，其响应的计算过程往往难以把握。虽然已提出多种方法通过评估每个特征在判别和预测中的重要性来解释模型行为，但这些方法可能因用于训练或测试的数据集的规模和抽样协议而受到偏见和不透明的制约。为克服现有方法的不足，我们探索了一种独立于学习过程且无需额外数据即可提供客观解释的替代方法。作为此研究方向的初步研究，本文检验了深度学习模型Jacobian矩阵的数值可用性，该矩阵衡量模型对输入添加小扰动时响应的稳定性。该指标若可用，可从训练好的AI模型中为给定目标输入计算得出。这是一步扰动基于解释的初步步骤，将帮助医疗专业人员理解和解释AI模型在其临床应用中的响应。