不要丢弃！无标签数据在公平决策中的效用
机器学习
2022-07-05 v3 人工智能
人机交互
机器学习
摘要
在实践中，决策算法通常训练于表现出多种偏差的数据上。决策者往往旨在基于某种假定或期望无偏的、即在社会显著群体中均匀分布的真实目标来做出决策。在许多实际场景中，真实目标无法直接观测，我们不得不依赖真实目标的有偏代理度量，即数据中的有偏标签。此外，数据常常被选择性标注，即即便是这些有偏标签，也仅能在获得正向决策的少量数据上被观测到。为克服标签偏差与选择偏差，近期工作提出通过学习随机的探索性决策策略来达成：i) 在每个时间步在线训练新策略，以及 ii) 将公平性作为对性能的约束。然而，现有方法仅使用有标签数据，忽视了大量无标签数据，从而在不同时间学到的决策策略上表现出高不稳定性与高方差。本文提出一种基于变分自编码器的实用公平决策新方法。我们的方法利用有标签与无标签数据学习无偏数据表示，并使用这些表示在在线过程中学习策略。利用合成数据，我们经验性地验证所提方法以低方差收敛至基于真实目标的最优（公平）策略。在真实世界实验中，我们进一步表明我们的训练方法不仅提供更稳定的学习过程，而且相较先前方法产出具有更高公平性与效用的策略。
引用
@article{arxiv.2205.04790,
title = {Don't Throw it Away! The Utility of Unlabeled Data in Fair Decision Making},
author = {Miriam Rateike and Ayan Majumdar and Olga Mineeva and Krishna P. Gummadi and Isabel Valera},
journal= {arXiv preprint arXiv:2205.04790},
year = {2022}
}