通过特征归因实现严谨可解释性
人工智能
2026-05-28 v2
摘要
为期约十年来，非符号方法一直是解释复杂机器学习 (ML) 模型的首选选择。然而，这些方法缺乏严谨性，可能会误导人类决策者。在高风险应用中，缺乏严谨性尤其具有问题性。以可证明的缺乏严谨性为例，Shapley 值被广泛应用于解释性人工智能 (XAI)，而工具 SHAP 便是其典型代表。本文概述了当前致力于使用严谨符号 XAI 方法作为替代非严谨非符号方法的努力，具体用于分配特征重要性。
引用
@article{arxiv.2604.15898,
title = {Towards Rigorous Explainability by Feature Attribution},
author = {Olivier Létoffé and Xuanxiang Huang and Joao Marques-Silva},
journal= {arXiv preprint arXiv:2604.15898},
year = {2026}
}