PWSHAP：一种面向目标变量的路径式解释模型
机器学习
2023-06-27 v1 机器学习
摘要
预测性黑盒模型可表现出高准确率，但其不透明性阻碍了在安全要求严苛的部署环境中的采用。解释方法(XAI)可通过提升透明度为决策提供信心。然而，现有XAI方法并未针对敏感领域中的模型量身定制，这类模型中某一预测变量备受关注，例如临床模型中的处理效应或政策模型中的族裔。我们提出路径式Shapley效应(PWSHAP)，一种用于从复杂结果模型评估二元（如处理）变量的目标效应的框架。我们的方法以用户定义的有向无环图(DAG)增强预测模型。该方法随后利用该图与流形上Shapley值识别因果路径上的效应，同时保持对对抗攻击的鲁棒性。我们建立了所识别路径式Shapley效应及Shapley值的误差界。我们展示PWSHAP可对模型忠实地进行局部偏倚与中介分析。此外，若目标变量经随机化，我们可量化局部效应修正。我们在示例与真实世界实验上展示了本方法的分辨率、可解释性与真实局部性。
引用
@article{arxiv.2306.14672,
title = {PWSHAP: A Path-Wise Explanation Model for Targeted Variables},
author = {Lucile Ter-Minassian and Oscar Clivio and Karla Diaz-Ordaz and Robin J. Evans and Chris Holmes},
journal= {arXiv preprint arXiv:2306.14672},
year = {2023}
}