利用含抑制变量的线性真实数据审视可解释人工智能
机器学习
2023-06-23 v2 人工智能
机器学习
摘要
机器学习(ML)正日益频繁地用于辅助高风险决策。由于复杂的 ML 模型(例如深度神经网络)常被视为黑箱,大量方法被开发出来以揭示其内部机制及预测产生的方式,由此定义了“可解释人工智能”(XAI)这一领域。显著性方法依据某种“重要性”度量对输入特征进行排序。由于缺乏特征重要性的形式化定义,此类方法难以验证。已有研究表明,某些显著性方法会高亮与预测目标无统计关联的特征(抑制变量)。为避免由此类行为导致的误读,我们提出此类关联的实际存在应作为特征重要性的必要条件与客观的初步定义。我们精心构建了一个所有统计依赖关系均明确且呈线性的真实数据集,作为研究抑制变量问题的基准。我们依据该客观定义评估了常见的解释方法,包括 LRP、DTD、PatternNet、PatternAttribution、LIME、Anchors、SHAP 以及基于置换的方法。我们表明,在此设定下,这些方法大多无法区分重要特征与抑制变量。
引用
@article{arxiv.2111.07473,
title = {Scrutinizing XAI using linear ground-truth data with suppressor variables},
author = {Rick Wilming and Céline Budding and Klaus-Robert Müller and Stefan Haufe},
journal= {arXiv preprint arXiv:2111.07473},
year = {2023}
}
备注
Corrected typos