加权Möbius分数:特征归因的统一框架
机器学习
2023-05-17 v1 人工智能
计算与语言
摘要
特征归因旨在通过识别每个特征对预测的影响,解释黑盒模型预测背后的推理。近期工作已将特征归因扩展到多个特征之间的交互。然而,缺乏统一框架导致了大量往往无法直接比较的方法的泛滥。本文引入了一个参数化归因框架——加权Möbius分数——并且(i)表明许多针对单个特征及特征交互的不同归因方法均为其特例,(ii)识别出一些新方法。通过研究归因方法的向量空间,我们的框架利用标准线性代数工具,并在合作博弈论与因果中介分析等多个领域提供解释。我们通过在情感分析和思维链提示中对特征交互应用这些归因方法,实证展示了该框架的通用性与有效性。
引用
@article{arxiv.2305.09204,
title = {The Weighted M\"obius Score: A Unified Framework for Feature Attribution},
author = {Yifan Jiang and Shane Steinert-Threlkeld},
journal= {arXiv preprint arXiv:2305.09204},
year = {2023}
}