面向过程挖掘的可解释人工智能：预测性过程监控的新型局部解释方法综述与应用
机器学习
2021-05-12 v2 人工智能
机器学习
摘要
当代过程感知信息系统具备记录过程执行期间所生成活动的能力。为利用这些过程特定的细粒度数据，过程挖掘近期已成为一个有前景的研究学科。作为过程挖掘的重要分支，预测性业务流程管理旨在生成前瞻性预测洞察以塑造业务流程。在本研究中，我们提出一个概念框架，力求建立并促进对决策环境、底层业务流程及用户特征本质的理解，以开发可解释的业务流程预测方案。进而，鉴于该框架的理论与实践意义，本研究提出一种针对深度学习分类器的新型局部事后解释方法，有望协助领域专家论证模型决策。与另类流行的基于扰动的局部解释方法不同，本研究利用深度神经网络学习到的中间潜在空间表示，从验证数据集中定义局部区域。为验证所提解释方法的适用性，使用了Volvo IT Belgium事件管理系统提供的真实过程日志数据。所采用的深度学习分类器取得了良好性能，ROC曲线下面积达0.94。所生成的局部解释亦通过相关评估度量进行可视化与呈现，有望增进用户对黑盒模型的信任。
引用
@article{arxiv.2009.02098,
title = {Explainable Artificial Intelligence for Process Mining: A General Overview and Application of a Novel Local Explanation Approach for Predictive Process Monitoring},
author = {Nijat Mehdiyev and Peter Fettke},
journal= {arXiv preprint arXiv:2009.02098},
year = {2021}
}
备注
Manuscript submitted (10.07.2020) to the edited volume "Interpretable Artificial Intelligence: A perspective of Granular Computing" (published by Springer)