从 SHAP 评分到特征重要性评分
人工智能
2024-05-21 v1 机器学习
摘要
可解释人工智能（XAI）的核心目标是根据某个机器学习（ML）模型的某个预测结果，为该模型的特征分配相对重要性。特征归因的这一解释性任务的重要性，通过近期流行使用的工具（如 SHAP 和 LIME）的广泛应用得到了充分体现。不幸的是，使用基于 SHAP 和 LIME 所依据的博弈论基础的特征归因的精确计算会产生明显不令人满意的结果，等同于报告误导性的相对特征重要性。最近的研究针对严格的特征归因，通过基于逻辑的特征选择解释定义的特征聚合进行了axiomatic 研究。这篇论文表明，特征归因与先验投票权之间存在根本关系，而那些最近提出的axiomatic 聚合则是过去所研究的各种投票权指数中的几种具体实现。此外，如何利用一些最广泛使用的投票权指数作为特征重要性评分（FISs），即在 XAI 中运用投票权指数，以及在哪些指数适合用于 XAI 的特征归因 purposes（例如，不产生令人不满意的结果）仍然不清晰。这篇论文提出了 FISs 应具备的若干新理想属性，并提出了符合这些属性的新型 FISs。最后，本文对最著名的投票权指数依据所提出的属性进行了严格分析。
引用
@article{arxiv.2405.11766,
title = {From SHAP Scores to Feature Importance Scores},
author = {Olivier Letoffe and Xuanxiang Huang and Nicholas Asher and Joao Marques-Silva},
journal= {arXiv preprint arXiv:2405.11766},
year = {2024}
}