公平性偏好：实际与假设——众包工作者激励研究
人工智能
2020-12-09 v1
摘要
我们应如何决定在机器学习系统中采用哪种公平性标准或定义？要回答这个问题，我们必须研究机器学习系统实际用户的公平性偏好。对待遇或影响的严格平权约束可能伴随着权衡，甚至可能不受相关社会群体的青睐 (Zafar et al., 2017)。因此，探求该群体的偏好可能比依赖先验定义的数学公平性约束更有益。仅仅要求用户自我报告排名具有挑战性，因为研究表明，人们陈述的偏好与实际偏好之间通常存在差距 (Bernheim et al., 2013)。本文概述了用于调查这些问题的研究计划和实验设计。实验参与者被邀请执行一系列任务以换取基础报酬——他们事先被告知稍后可能会获得奖金，并且奖金可能取决于产出数量和质量的某种组合。然后，同一组工作者对奖金支付结构进行投票，以引出偏好。对一半群体而言，投票是假设性的（不与结果挂钩），对另一半群体而言则是实际的（与实际支付结果挂钩），以便我们理解群体的实际偏好与假设（陈述）偏好之间的关系。本文探讨了机器学习公平性方面的联系与经验教训。
引用
@article{arxiv.2012.04216,
title = {Fairness Preferences, Actual and Hypothetical: A Study of Crowdworker Incentives},
author = {Angie Peng and Jeff Naecker and Ben Hutchinson and Andrew Smart and Nyalleng Moorosi},
journal= {arXiv preprint arXiv:2012.04216},
year = {2020}
}