在演化数据流中防止歧视性决策

机器学习中的偏差在过去十年中受到了应有的显著关注。然而，大多数用于解决决策系统中偏差的公平机器学习（fair-ML）工作仅关注离线设置。尽管在线系统在现实世界中广泛存在，但关于识别和纠正在线设置中偏差的工作严重缺乏。在线环境的独特挑战使得解决偏差比离线设置更困难。首先，流机器学习（SML）算法必须处理不断演化的实时数据流。其次，它们需要适应变化的数据分布（概念漂移）以对新到达数据做出准确预测。在这一本已复杂的任务上添加公平性约束并不简单。在这项工作中，我们关注在偏置数据流中实现公平性的挑战，同时考虑概念漂移的存在，每次仅访问一个样本。我们提出流上公平采样（$FS^2$），一种能够与SML分类算法集成的新型公平重平衡方法。此外，我们设计了首个统一的性能-公平性度量，公平约束效用（FBU），以高效评估和比较不同偏差缓解方法的性能与公平性权衡。FBU通过一个统一且直观的评估简化了多种技术的公平性-性能权衡比较，使模型设计者能够轻松选择技术。总体而言，广泛评估表明我们的度量超越了文献中先前报道的其他公平在线技术。