序贯决策中使用机器学习时的群体留存：用户动态与公平性的相互作用
机器学习
2019-11-05 v2 机器学习
摘要
在来自多个人口统计群体的数据上训练的机器学习（ML）模型，可能会继承数据中可能存在的表示差异（Hashimoto et al., 2018）：模型可能对那些对训练过程贡献较少的群体较不友好；这反过来会随时间降低这些群体的人口留存率，并在长期加剧表示差异。在本研究中，我们试图理解 ML 决策与底层群体表示之间的相互作用、它们在序贯框架中如何演化，以及公平准则的使用在此过程中扮演的角色。我们表明，在基于常用目标与公平准则进行决策的自然用户动态（到达与离开）模型下，表示差异很容易随时间恶化，导致某些群体长期从样本池中完全消失。这凸显了公平准则必须在考虑决策对用户动态影响的同时加以定义。为此，我们解释了如何基于通用用户动态模型选择合适的公平准则。
引用
@article{arxiv.1905.00569,
title = {Group Retention when Using Machine Learning in Sequential Decision Making: the Interplay between User Dynamics and Fairness},
author = {Xueru Zhang and Mohammad Mahdi Khalili and Cem Tekin and Mingyan Liu},
journal= {arXiv preprint arXiv:1905.00569},
year = {2019}
}
备注
In the 33rd Conference on Neural Information Processing Systems (NeurIPS), 2019