使用因果发现的黑盒机器学习模型反事实解释及其在信用评级中的应用
机器学习
2024-04-30 v2
摘要
可解释人工智能(XAI)帮助阐明了机器学习算法的内部机制，通过展示其预测依据增强了它们的可靠性。一些XAI模型考虑因果关系，通过检查预测模型的输入-输出关系和特征之间的依赖关系来解释模型。这些模型中的大多数基于反事实概率进行解释，假设因果图已知。然而，这一假设使得此类模型难以应用于真实数据，因为在大多数情况下特征之间的因果关系是未知的。因此，本研究提出了一种新颖的XAI框架，放宽了因果图已知的约束。该框架利用反事实概率和关于因果结构的额外先验信息，促进了通过因果发现方法估计的因果图与黑盒分类模型的集成。此外，基于反事实概率估计了解释分数。使用人工数据进行的数值实验证实，与没有因果图的情况相比，可以更准确地估计解释分数。最后，作为对真实数据的应用，我们构建了日本滋贺县滋贺银行分配的信用评级分类模型。我们展示了所提出方法在因果图未知情况下的有效性。
引用
@article{arxiv.2402.02678,
title = {Counterfactual Explanations of Black-box Machine Learning Models using Causal Discovery with Applications to Credit Rating},
author = {Daisuke Takahashi and Shohei Shimizu and Takuma Tanaka},
journal= {arXiv preprint arXiv:2402.02678},
year = {2024}
}