联合 Shapley 值:一种联合特征重要性度量
机器学习
2022-02-11 v2 人工智能
机器学习
摘要
Shapley 值是最广泛使用的特征重要性度量之一,部分原因是它衡量了特征对模型预测的平均效应。我们引入了联合 Shapley 值,其直接扩展了 Shapley 的公理与直觉:联合 Shapley 值衡量一组特征对模型预测的平均贡献。我们证明了对于任意解释阶数,联合 Shapley 值的唯一性。博弈结果表明,联合 Shapley 值呈现了与现有交互指数不同的见解,后者评估的是特征在特征集内的效应。联合 Shapley 值在机器学习归因问题中提供了直观的结果。对于二值特征,我们提出了一种存在性调整的全局值,其比常用方法更符合局部直觉。
引用
@article{arxiv.2107.11357,
title = {Joint Shapley values: a measure of joint feature importance},
author = {Chris Harris and Richard Pymar and Colin Rowat},
journal= {arXiv preprint arXiv:2107.11357},
year = {2022}
}
备注
Source code available at https://github.com/harris-chris/joint-shapley-values