理解机器学习模型中的公平性-准确性权衡：促进公平性是否会损害性能？
计算与语言
2025-08-28 v2 人工智能
信息检索
摘要
在机器学习（ML）预测和人类决策中，公平性至关重要，但两者都容易受到不同形式的偏见的影响，如 ML 中的算法偏见和数据驱动偏见，以及人类的认知偏见和主观偏见。本研究使用由 870 名申请人资料组成的真实世界大学招生数据集，借助 XGB、Bi-LSTM 和 KNN 三种 ML 模型，以及用于文本特征的 BERT 嵌入，来评估公平性。为评估个体公平性，我们引入一种一致性指标，用于量化 ML 模型和拥有不同背景的人类专家在决策上的一致程度。我们的分析显示，ML 模型在公平性一致性方面优于人类评估者，差距范围为 14.08%至 18.79%。我们的发现表明，使用 ML 可在保持高准确率的同时提高招生过程中的公平性，鼓励采用结合人类判断和 ML 模型的混合方法。
引用
@article{arxiv.2411.17374,
title = {Understanding Fairness-Accuracy Trade-offs in Machine Learning Models: Does Promoting Fairness Undermine Performance?},
author = {Junhua Liu and Roy Ka-Wei Lee and Kwan Hui Lim},
journal= {arXiv preprint arXiv:2411.17374},
year = {2025}
}
备注
Accepted to ASONAM 2025