未观测混杂下的公平性审计

许多关于公平或不公平的定义涉及不可观测的因果量，若没有强假设，这些量无法被直接估计。例如，那些依赖于难以测量的概念（如风险）的公平性概念尤为难以估计（例如，量化处于相同风险水平的患者是否具有同等的治疗概率，而不受群体成员身份的影响）。当没有未观测的混杂因素共同影响过去的决策和结果时，可以准确获得此类风险测量。然而，在现实世界中，这一假设很少成立。在本文中，我们表明令人惊讶的是，即使完全消除或放宽我们观测到了决策者使用的所有相关风险因素这一假设，人们仍然可以为高风险个体（即以真实的、未观测的负面结果为条件）的治疗率计算有意义的界限。我们利用在许多现实场景中（例如，新疗法的发布）在任何分配之前就拥有数据这一事实，来得出风险的无偏估计。这一结果使我们能够以有原则的方式审计现有决策系统的不公平结果。我们通过对 Paxlovid 分配的真实世界研究证明了我们框架的有效性，可证明地识别出观测到的种族不公平性无法用与重要观测协变量具有相同强度的未观测混杂因素来解释。