从效率到公平：偏好学习中的公平性度量
机器学习
2024-10-25 v1 人工智能
摘要
随着AI系统，特别是生成模型，日益影响决策过程，确保其能够公正地代表多样化的人类偏好变得至关重要。本文引入了一种新颖的框架，用于评估偏好学习模型中的信念公平性，灵感来自经济学中的不平等理论和罗尔斯正义论。我们提出了改编自基尼系数、阿塔卡斯指数和库茨南斯比率的度量标准，用于量化这些模型中的公平性。我们使用两个数据集验证了方法：一个定制的视觉偏好数据集（AI-EDI-Space）和Jester笑话数据集。我们的分析揭示了模型在不同用户之间的性能差异，凸显了潜在的信念不公正。我们探索了预处理和后处理技术来缓解这些不平等，展示了模型效率与公平性之间复杂的关系。这一工作通过提供一种评估和改进偏好学习模型中信念公平性的框架，为AI伦理贡献，为在需要多样化人类偏好情境下开发更包容性AI系统提供了见解。
引用
@article{arxiv.2410.18841,
title = {From Efficiency to Equity: Measuring Fairness in Preference Learning},
author = {Shreeyash Gowaikar and Hugo Berard and Rashid Mushkani and Shin Koseki},
journal= {arXiv preprint arXiv:2410.18841},
year = {2024}
}