通过暴露二阶效应来解释预测不确定性
机器学习
2024-11-19 v1 人工智能
机器学习
摘要
可解释人工智能为复杂 ML 黑箱模型提供了透明度，特别是能够识别这些模型用于预测的特征。迄今为止，解释预测不确定性，即为何模型'犹豫'的 question 已被少数研究。我们的研究发现，预测不确定性由二阶效应主导，涉及单个特征或它们之间的乘积相互作用。我们贡献一种基于这些二阶效应解释预测不确定性的新方法。计算上，我们的方法简化为对一组一阶解释的协方差计算。我们的方法通用，可将常见的归因技术(LRP、Gradient x Input 等)转化为强大的二阶不确定性解释器，称为 CovLRP、CovGI 等。我们通过系统性定量评估展示了我们方法产生的解释准确性，并通过两个实际案例展示了我们方法的整体实用性。
引用
@article{arxiv.2401.17441,
title = {Explaining Predictive Uncertainty by Exposing Second-Order Effects},
author = {Florian Bley and Sebastian Lapuschkin and Wojciech Samek and Grégoire Montavon},
journal= {arXiv preprint arXiv:2401.17441},
year = {2024}
}
备注
12 pages + supplement