面向改善预测业务流程监控公平性的人类在回路方法
机器学习
2025-08-26 v1 计算机与社会
摘要
预测业务流程监控使组织能够主动响应并干预正在运行的业务流程实例。在进程实例不完整的情况下，将针对结果、下一个活动或剩余时间创建预测。这是通过强大的机器学习模型实现的，这些模型已显示出令人印象深刻的预测性能。然而，这些数据驱动的模型容易发现数据中不公平、偏好或不道德的模式。此类模式会导致基于敏感属性（如流程参与者的性别或年龄）的偏差预测。以前的工作已识别了这一问题，并提供了通过完全从流程实例中移除敏感属性来缓解偏差的方法。然而，敏感属性在同一流程实例中既可被公正也可被不公正地使用。例如，在医疗流程中，治疗决策可能基于性别，而接受患者的决定则不应基于性别。本文提出了一种新颖的、模型无关的方法，用于在预测业务流程监控模型中识别和纠正偏差，即使同一敏感属性被同时用于公正和不公正的用途。该方法使用人类在回路方法，通过对从原始预测模型提炼出的决策树模型进行简单修改，来区分公正和不公正的决策。我们的结果表明，该方法在存在偏差数据的情况下实现了公平性和准确性之间的有前景的权衡。所有源代码和数据均在 https://doi.org/10.5281/zenodo.15387576 上公开。
引用
@article{arxiv.2508.17477,
title = {A Human-In-The-Loop Approach for Improving Fairness in Predictive Business Process Monitoring},
author = {Martin Käppel and Julian Neuberger and Felix Möhrlein and Sven Weinzierl and Martin Matzner and Stefan Jablonski},
journal= {arXiv preprint arXiv:2508.17477},
year = {2025}
}