超越直觉的解释性：一种可测试的固有可解释性标准
机器学习
2025-12-22 v1 人工智能
摘要
固有可解释性是可解释人工智能(XAI)的金标准。然而，目前缺乏一致的定义或测试来证明固有可解释性。迄今为止的工作要么通过指标来表征可解释性，要么诉诸直觉——“我们知道它当我们看到它”。我们提出一种针对固有可解释性的全局适用标准。该标准使用图论对模型进行表示与分解，以实现结构局部解释，并将其重组为全局解释。我们将结构局部解释作为注释，构建可验证的假设-证据结构，允许使用多种解释方法。该标准符合现有对固有可解释性的直觉，并为大型回归模型可能不可解释而稀疏神经网络却可解释提供了依据。我们区分可解释——允许进行解释的模型——与已解释——具有已验证解释的模型。最后，我们对 PREDICT——一款用于新西兰临床应用的心血管疾病风险 Cox 比例风险模型进行完整解释，证明 PREDICT 是固有可解释的。这一工作为规范化其他可解释性工作提供了框架，允许监管机构在合规框架中使用灵活但严谨的测试。
引用
@article{arxiv.2512.17316,
title = {Explanation Beyond Intuition: A Testable Criterion for Inherent Explainability},
author = {Michael Merry and Pat Riddle and Jim Warren},
journal= {arXiv preprint arXiv:2512.17316},
year = {2025}
}