CXPlain：不确定性下用于模型解释的因果解释方法
机器学习
2019-10-29 v1 机器学习
摘要
告知用户给定输入在多大程度上影响预测模型输出的特征重要性估计，对于理解、验证和解释机器学习模型至关重要。然而，为高维数据提供快速且准确的特征重要性估计，并量化此类估计的不确定性，仍是未解决的挑战。在此，我们将为机器学习模型决策提供解释的任务构建为一个因果学习任务，并训练因果解释（CXPlain）模型，这些模型学习估计某些输入在另一机器学习模型中在多大程度上导致输出。CXPlain一经训练，即可在短时间内解释目标模型，并能够通过bootstrap集成量化与其特征重要性估计相关的不确定性。我们给出的实验表明，CXPlain比现有的模型无关特征重要性估计方法显著更准确且更快速。此外，我们确认CXPlain集成提供的不确定性估计与其在留出数据上准确估计特征重要性的能力高度相关。
引用
@article{arxiv.1910.12336,
title = {CXPlain: Causal Explanations for Model Interpretation under Uncertainty},
author = {Patrick Schwab and Walter Karlen},
journal= {arXiv preprint arXiv:1910.12336},
year = {2019}
}
备注
To appear in Advances in Neural Information Processing Systems 2019