解释任意 ML 模型？——论 XAI 的目标与能力
机器学习
2024-07-16 v1
摘要
机器学习（ML）日益普及，催生了用于解释 ML 模型及其预测的算法研究——即所谓可解释人工智能（XAI）。尽管已有诸多综述与讨论，XAI 算法的目标与能力远未被充分理解。我们认为这源于 XAI 文献中有问题的推理模式：XAI 算法被说成以“可解释性”或“可说明性”等期望属性补充 ML 模型，这些属性又被假定有助于“信任”等目标。但多数属性缺乏精确定义，其与目标的关系也不明朗。结果是一种模糊研究结论、且留下重要未解问题的推理模式：人们能从 XAI 算法期待什么？本文从具体视角——即用户视角——澄清 XAI 算法的目标与能力。解释 ML 模型仅在用户有相关疑问时才必要。我们表明用户可提出多样问题，但当前 XAI 算法仅能回答其中之一。回答这一核心问题可能平凡、困难甚至不可能，取决于 ML 应用。基于这些洞见，我们勾勒出政策制定者、研究者与社会可合理期待 XAI 算法具备的能力。
引用
@article{arxiv.2206.13888,
title = {Explaining Any ML Model? -- On Goals and Capabilities of XAI},
author = {Moritz Renftle and Holger Trittenbach and Michael Poznic and Reinhard Heil},
journal= {arXiv preprint arXiv:2206.13888},
year = {2024}
}