迈向更好的公平-效用权衡：一种基于综合度量的强化学习框架
机器学习
2023-08-14 v1 计算机与社会
软件工程
摘要
机器学习被广泛用于做出具有社会影响的决策，如银行贷款审批、刑事判决和简历筛选。如何在其保持效用的同时确保公平性是一个具挑战性但至关重要的问题。公平性是一个复杂且依赖语境的概念，有超过70种不同的度量指标。由于现有法规常对使用何种指标语焉不详，且不同组织可能偏好不同的公平性指标，具备全面改善公平性的手段十分重要。现有缓解技术通常针对某一特定公平性指标，在同时改善多种公平性概念方面存在局限。本工作中，我们提出CFU（Comprehensive Fairness-Utility，综合公平-效用），一种基于强化学习的框架，以高效改善机器学习分类器中的公平-效用权衡。我们建立了能同时考量多种公平性概念及效用的综合度量，并基于对不同公平性指标间关系的深入分析提出新指标。CFU的奖励函数由综合度量与新指标构建。我们开展了广泛实验，在6项任务、3种机器学习模型与15种公平-效用度量上评估CFU。结果表明，CFU能在不牺牲效用的前提下改善分类器在多种公平性指标上的表现。它优于所有SOTA技术，平均实现了37.5%的提升。
引用
@article{arxiv.2307.11379,
title = {Towards Better Fairness-Utility Trade-off: A Comprehensive Measurement-Based Reinforcement Learning Framework},
author = {Simiao Zhang and Jitao Bai and Menghong Guan and Yihao Huang and Yueling Zhang and Jun Sun and Geguang Pu},
journal= {arXiv preprint arXiv:2307.11379},
year = {2023}
}