提升人类决策的准确性与公平性
机器学习
2018-05-29 v1 计算机与社会
机器学习
摘要
社会通常依赖人类专家来做出影响其成员的广泛决策，从法官做出的保释或释放决定、警察做出的拦截搜身决定，到学者做出的接收或拒稿决定。在此背景下，每个决策由通常从专家库中随机均匀选取的一名专家做出。然而，由于经验有限、隐性偏见或概率推理错误，这些决策可能并不完善。我们能否通过优化专家与决策之间的分配来改进整体决策过程的准确性和公平性？在本文中，我们从序贯决策的角度解决上述问题，并表明对于文献中的不同公平性概念，该问题可归约为一系列（受约束的）加权二分匹配，可使用具有近似保证的算法高效求解。此外，这些算法还受益于后验采样，以主动权衡利用——选择能带来准确且公平决策的专家分配——与探索——选择专家分配以了解专家的偏好和偏见。我们在合成和真实世界数据上展示了我们算法的有效性，并表明它们能显著改善专家群体所做决策的准确性和公平性。
引用
@article{arxiv.1805.10318,
title = {Enhancing the Accuracy and Fairness of Human Decision Making},
author = {Isabel Valera and Adish Singla and Manuel Gomez Rodriguez},
journal= {arXiv preprint arXiv:1805.10318},
year = {2018}
}