面向预测性业务流程监控的反事实解释
人工智能
2022-02-25 v1 机器学习
摘要
预测性业务流程监控越来越多地利用复杂的预测模型。尽管复杂模型比简单模型持续取得更高的预测准确率，但其一个主要缺陷是缺乏可解释性，这限制了它们在实践中的采用。因此我们看到对可解释预测性业务流程监控的兴趣日益增长，其旨在提高预测模型的可解释性。现有方案侧重于给出事实性解释。虽然事实性解释可能有帮助，但人类通常不问某个特定预测为何做出，而是问它为何而非另一个预测做出，即人类感兴趣的是反事实解释。尽管可解释AI（explainable AI）研究已产生若干有前景的生成反事实解释的技术，但直接将其应用于预测性流程监控可能产生不现实的解释，因为它们忽略了底层的过程约束。我们提出LORELEY，一种面向预测性业务流程监控的反事实解释技术，其扩展了近期的可解释AI技术LORE。我们对解释生成过程施加控制流约束，以确保现实的反事实解释。此外，我们扩展LORE以支持解释多类分类模型。使用真实公开数据集的实验结果表明，LORELEY能以平均97.69%的保真度逼近预测模型并生成现实的反事实解释。
引用
@article{arxiv.2202.12018,
title = {Counterfactual Explanations for Predictive Business Process Monitoring},
author = {Tsung-Hao Huang and Andreas Metzger and Klaus Pohl},
journal= {arXiv preprint arXiv:2202.12018},
year = {2022}
}