用于敏感性分析的度量工具及其在神经网络中的应用

随着机器学习模型被考虑用于具有重大社会影响的自主决策，理解这些模型如何工作的需求迅速增长。可解释人工智能（XAI）旨在为机器学习模型的预测提供解释，以使模型值得信赖且对用户更透明。例如，为问题选择相关输入变量直接影响模型学习和准确预测的能力，因此在训练模型时获取输入重要性的信息起着关键作用。基于偏导数的敏感性分析是获取输入变量重要性的主要XAI技术之一。然而，该方法现有文献未对用于从偏导数中提取信息的聚合度量提供理论依据。本文提出一个理论框架，利用度量技术研究机器学习模型的敏感性。从该度量解释中，提取出称为$\alpha$-曲线的完整新定量度量族。这些$\alpha$-曲线比文献中现有XAI方法更深入地提供机器学习模型输入变量重要性的信息。我们使用合成与真实数据集证明了$\alpha$-曲线的有效性，将结果与其他变量重要性XAI方法比较，并用真实情况或文献信息验证分析结果。