DiCE4EL：基于里程碑感知反事实方法的过程预测解释
机器学习
2021-10-01 v2 人工智能
摘要
预测性过程分析常应用机器学习来预测运行中的业务过程的未来状态。然而，许多现有预测算法的内部机制是不透明的，人类决策者无法理解\emph{为何}预测了某一活动。近来，文献中提出了反事实，以从预测模型中导出人类可理解的 explanation。当前的反事实方法在于寻找能使某一预测翻转其结果的最小特征改变。尽管已提出许多算法，但其在像事件日志这样的多维序列数据上的应用尚未在文献中探索。在本文中，我们探索了近期流行的模型无关反事实算法 DiCE 在预测性过程分析背景下的使用。分析揭示，由于（1）未考虑过程领域知识，（2）过程执行的较长轨迹往往较不易理解，以及（3）用类别变量优化反事实搜索的困难，DiCE 无法导出过程预测的解释。我们设计了 DiCE 的扩展，即 DiCE4EL（DiCE for Event Logs），其可生成过程预测的反事实解释，并提出了一种方法，支持在过程执行的关键中间阶段导出里程碑感知的反事实解释以促进可解释性。我们将该方法应用于公开可用的真实事件日志，分析结果证明了所提方法的有效性。
引用
@article{arxiv.2107.08697,
title = {DiCE4EL: Interpreting Process Predictions using a Milestone-Aware Counterfactual Approach},
author = {Chihcheng Hsieh and Catarina Moreira and Chun Ouyang},
journal= {arXiv preprint arXiv:2107.08697},
year = {2021}
}