利用 Shapley 分解解释信用决策中的不利行动
机器学习
2022-04-27 v1 机器学习
摘要
当金融机构拒绝一项信贷申请时，即发生不利行动（AA）。申请人有权获得对该负面决定的解释。本文聚焦于基于违约概率预测模型的信用决策，并提出一种解释不利行动的方法论。该问题涉及识别导致负面决策的重要预测因子，当底层模型为可加模型时，该问题较为直接。然而，即使对于带有交互项的线性模型，该问题也变得非平凡。我们考虑具有低阶交互项的模型，并基于第一性原理开发了一种简单直观的方法。随后，我们展示了该方法论如何推广到众所周知的 Shapley 分解以及最近提出的基线 Shapley（B-Shap）概念。与文献中用于机器学习结果局部可解释性的其他 Shapley 技术不同，B-Shap 仅涉及函数求值，因此在计算上是可处理的。我们通过一个示例性案例研究展示了该方法的实用性。本文还讨论了预测因子高度相关的情况，以及在信贷发放背景下拟合模型所期望的性质，如单调性和连续性。
引用
@article{arxiv.2204.12365,
title = {Explaining Adverse Actions in Credit Decisions Using Shapley Decomposition},
author = {Vijayan N. Nair and Tianshu Feng and Linwei Hu and Zach Zhang and Jie Chen and Agus Sudjianto},
journal= {arXiv preprint arXiv:2204.12365},
year = {2022}
}
备注
20 pages, 8 figures