通过独立性实现预测过程监控中的组公平性
计算机视觉与模式识别
2024-12-09 v1
摘要
预测过程监控专注于预测正在进行的流程执行的未来状态,例如预测特定案例的结果。近年来,机器学习模型在该领域的应用获得了显著的科学关注。当使用可能包含偏见或表现出不公平行为的历史执行数据时,这些偏见可能被编码到训练好的模型中。因此,当此类模型被部署用于为新案例做出决策或指导干预时,它们可能会延续这种不受欢迎的行为。本工作通过研究独立性——即确保预测不受敏感群体成员身份的影响——来解决预测过程监控中的组公平性问题。我们通过人口统计平等度量(如 ΔDP)以及近期引入的与阈值无关的基于分布的替代方案来探索独立性。此外,我们提出一个由二元交叉熵和基于分布的损失(Wasserstein)组成的复合损失函数,用于训练在预测性能和公平性之间取得平衡的模型,并允许自定义权衡。通过受控实验设置验证了公平性度量和复合损失函数的有效性。
引用
@article{arxiv.2412.04915,
title = {Beyond Boxes: Mask-Guided Spatio-Temporal Feature Aggregation for Video Object Detection},
author = {Khurram Azeem Hashmi and Talha Uddin Sheikh and Didier Stricker and Muhammad Zeshan Afzal},
journal= {arXiv preprint arXiv:2412.04915},
year = {2024}
}
备注
To appear in WACV 2025