衡量公平性：基于强化学习的公平分类
机器学习
2024-07-16 v1 计算与语言
计算机与社会
摘要
在分类任务中实现公平性的传统方法侧重于从神经表征中消除偏见，但近期趋势倾向于采用算法方法，将公平性内嵌于训练过程中。这些方法会引导模型达到公平的性能，从而避免因表征操控而丢失有价值的信息。基于与环境交互式学习能力以及可调节奖励函数以鼓励所需行为的强化学习 (RL)，成为解决此类问题的有前景的工具。本文探讨了利用 RL 来解决不平衡分类中的偏见问题，通过对奖励函数进行比例缩放来缓解偏见。我们采用情境多臂老虎机框架，并改编三种流行的 RL 算法以适应我们的目标，展示了一种新颖的偏见缓解方法。
引用
@article{arxiv.2407.10629,
title = {Balancing the Scales: Reinforcement Learning for Fair Classification},
author = {Leon Eshuijs and Shihan Wang and Antske Fokkens},
journal= {arXiv preprint arXiv:2407.10629},
year = {2024}
}