后处理算法偏差校正中的透明性与比例性
人工智能
2025-05-26 v1 机器学习
摘要
算法决策系统有时会产生错误或对特定群体的预测偏差，导致不公平结果。在此类系统开发的不同阶段应用的去偏实践，偶尔会引入新的不公平形式或加剧现有不平等。我们聚焦于后处理技术，这些技术通过修改算法预测来实现分类任务中的公平性，并考察这些干预措施的意外后果。为应对这一挑战，我们开发了一套衡量后处理阶段对解应用的翻转差异的指标。所提出的指标将帮助从业者：（1）评估所使用的去偏策略的比例性，（2）透明地解释该策略在每个群体中的效果，以及（3）基于这些结果，分析使用其他方法进行偏差缓解或解决问题的可能性。我们介绍了在后处理阶段应用所提出指标的方法，并通过一个示例说明了其实际应用。该示例展示了分析去偏策略的比例性如何补充传统的公平性指标，提供更深入的视角以确保所有群体获得更公平的结果。
引用
@article{arxiv.2505.17525,
title = {Transparency and Proportionality in Post-Processing Algorithmic Bias Correction},
author = {Juliett Suárez Ferreira and Marija Slavkovik and Jorge Casillas},
journal= {arXiv preprint arXiv:2505.17525},
year = {2025}
}