关于局部特征归因的基线方法
机器学习
2021-01-05 v1
摘要
高性能预测模型（如神经网络）通常作为黑箱运行，这引发了对其可解释性的严重关切。局部特征归因方法有助于解释黑箱模型，因此是评估预测可靠性与公平性的有力工具。为此，大多数归因模型将输入特征的重要性与参考值（常称为基线）进行比较。近期研究表明，基线会严重影响特征归因的质量。然而，我们在实践中频繁发现简单的基线，例如零向量。在本文中，我们实证表明基线会显著改变特征归因的判别能力。我们在表格数据集上开展分析，从而补充了近期关于图像数据的工作。此外，我们提出了一种新的基线方法分类体系。我们的实验研究说明了流行归因模型对基线的敏感性，从而为关于表格数据合理基线方法的更深入讨论奠定基础。
引用
@article{arxiv.2101.00905,
title = {On Baselines for Local Feature Attributions},
author = {Johannes Haug and Stefan Zürn and Peter El-Jiz and Gjergji Kasneci},
journal= {arXiv preprint arXiv:2101.00905},
year = {2021}
}
备注
Accepted at the AAAI-21 Workshop on Explainable Agency in AI