通过时序背景知识引导预测性过程监控的反事实解释生成
人工智能
2025-08-26 v1 机器学习
摘要
反事实解释旨在说明输入实例中哪些部分应该不同，以改变AI系统的输出结果。然而，在预测性过程监控领域处理反事实解释时，必须仔细考虑事件之间的控制流关系。实际上，一个反事实不应违反活动之间的控制流关系（时序背景知识）。在预测性过程监控的可解释性领域，已有关于基于结果的预测的反事实解释的一系列工作。然而，这些工作在生成反事实时均未考虑时序背景知识的纳入。在本工作中，我们调整了XAI领域中基于遗传算法的最先进反事实生成技术，以在运行时考虑一系列时序约束。我们假设此时序背景知识是给定的，并调整了适应度函数以及交叉和变异算子，以维持约束的满足。所提出的方法针对最先进的反事实生成遗传算法进行了评估，并给出了结果。我们展示了纳入时序背景知识能够生成更符合时序背景知识的反事实，同时并未损失反事实的传统质量指标。
引用
@article{arxiv.2403.11642,
title = {Guiding the generation of counterfactual explanations through temporal background knowledge for Predictive Process Monitoring},
author = {Andrei Buliga and Chiara Di Francescomarino and Chiara Ghidini and Ivan Donadello and Fabrizio Maria Maggi},
journal= {arXiv preprint arXiv:2403.11642},
year = {2025}
}