偏差影响的诸多方面：评估机器学习中符合法律要求的偏差
计算机与社会
2025-05-09 v1 机器学习
摘要
依据当前法律标准，我们通过边际效益和运用于客观测试的新型指标“客观公平指数”（Objective Fairness Index）来定义偏差。该指标将客观测试的情境细微差异与指标稳定性相结合，提供了符合法律要求且可靠的衡量标准。利用客观公平指数，我们为敏感的机器学习应用提供了新的见解，例如 COMPAS（犯罪复发预测），凸显了该指标的实际和理论意义。客观公平指数允许区分歧视性测试与系统性差异。
引用
@article{arxiv.2505.05471,
title = {Facets of Disparate Impact: Evaluating Legally Consistent Bias in Machine Learning},
author = {Jarren Briscoe and Assefaw Gebremedhin},
journal= {arXiv preprint arXiv:2505.05471},
year = {2025}
}
备注
CIKM 2024