基于SHAP的解释对特征表示敏感性分析
机器学习
2025-05-14 v1 人工智能
摘要
基于局部特征的解释是可解释人工智能(XAI)工具包中的关键组成部分。这些解释会计算相对于“可解释”特征表示的特征重要性值。在表格数据中，特征值本身通常被视为可解释的。本文考察了数据工程选择对局部特征解释的影响。我们表明，简单且常见的数据工程技术（如将年龄用直方图表示或以特定方式编码种族）可以操控基于SHAP等流行方法确定的特征重要性。值得注意的是，解释对特征表示的敏感性可以被利用以掩盖问题（如歧视）。尽管这些结果的直觉是直接的，但其系统性探索仍缺乏。以往工作侧重于通过偏斜数据或操控模型来对基于特征的解释器进行对抗性攻击。迄今为止，尚无研究表明解释器可能因标准看似无害的数据工程技术而被误导。
引用
@article{arxiv.2505.08345,
title = {SHAP-based Explanations are Sensitive to Feature Representation},
author = {Hyunseung Hwang and Andrew Bell and Joao Fonseca and Venetia Pliatsika and Julia Stoyanovich and Steven Euijong Whang},
journal= {arXiv preprint arXiv:2505.08345},
year = {2025}
}
备注
Accepted to ACM FAccT 2025