一种在观察性健康数据中实现路径特定因果公平的流水线
机器学习
2026-01-21 v2 人工智能
摘要
在训练可能部署于医疗环境的机器学习（ML）模型时，确保它们不复制或加剧现有的医疗偏见至关重要。尽管存在许多公平性定义，我们专注于路径特定的因果公平性，这使我们能够更好地考虑偏见发生的社会和医学背景（例如，临床医生或模型的直接歧视与由于医疗系统获取机会不同导致的偏见），并描述这些偏见如何在习得模型中出现。在这项工作中，我们将结构化公平模型映射到观察性医疗环境，并创建了一个用于训练因果公平模型的可泛化流水线。该流水线明确考虑特定的医疗背景和差异，以定义一个目标“公平”模型。我们的工作填补了两个主要空白：首先，我们通过解耦直接和间接偏见来源，并在广泛已知偏见的背景下，将这些公平性考量与准确性考量共同呈现，从而扩展了对“公平性-准确性”权衡的描述。其次，我们展示了如何利用在观察性健康数据上无公平性约束训练的基础模型，为已知存在社会和医学差异的任务生成因果公平的下游预测。这项工作提出了一种模型无关的流水线，用于训练因果公平的机器学习模型，以解决直接和间接形式的医疗偏见。
引用
@article{arxiv.2601.09841,
title = {A pipeline for enabling path-specific causal fairness in observational health data},
author = {Aparajita Kashyap and Sara Matijevic and Noémie Elhadad and Steven A. Kushner and Shalmali Joshi},
journal= {arXiv preprint arXiv:2601.09841},
year = {2026}
}