在公平性服务中追踪与改进信息

随着算法预测系统的普及，人们对这些系统可能无意中歧视代表性不足群体成员的担忧与日俱增。为理解支撑日益增多的缓解算法歧视方法的基本原则，我们研究了信息在公平预测中的作用。一种常见的决策策略使用预测器为个体分配风险分数；随后，基于该分数对个体进行筛选或拒绝。本工作中，我们研究一种衡量预测器信息内容的正式框架。该框架的核心是由 Degroot 与 Fienberg 首次研究的精化（refinement）概念。直观而言，预测器 z 的精化在增加预测整体信息量的同时不丢失 z 中已包含的信息。我们表明，通过精化增加信息内容可改善广泛公平性度量（如真正率、假正率、筛选率）下的下游筛选规则。进而，精化为在不牺牲预测效用的前提下减少待遇与影响差异提供了一种简单而有效的工具。我们的结果表明，在许多应用中，被感知的“公平性代价”源于群体间的信息差异，因此可通过改进信息得以避免。