特征重要性 versus 特征影响及其对可解释 AI 的启示
人工智能
2023-08-08 v1 人机交互
摘要
当用于决策理论语境时，特征重要性表达相对于其他特征，改变某特征的值能在多大程度上改变模型输出（或输出的效用）。特征重要性不应与大多数最先进的事后可解释 AI 方法所使用的特征影响相混淆。与特征重要性相反，特征影响是相对于参考水平或基线来度量的。上下文重要性与效用（CIU）方法提供了全局与局部特征重要性的统一定义，也适用于事后解释，其中值效用概念提供了特征值对输出有利或不利程度的实例级评估。本文展示了 CIU 如何应用于全局与局部可解释性，评估了不同方法的保真度与稳定性，并表明使用上下文重要性与上下文效用的解释比仅使用影响能提供更具表达力与灵活性的解释。
引用
@article{arxiv.2308.03589,
title = {Feature Importance versus Feature Influence and What It Signifies for Explainable AI},
author = {Kary Främling},
journal= {arXiv preprint arXiv:2308.03589},
year = {2023}
}
备注
Presented at The 1st World Conference on eXplainable Artificial Intelligence, Lissabon, 26-28 July 2023