Debias-CLR：基于对比学习的人工智能在医疗保健应用中的算法公平性去偏方法

基于临床笔记训练的人工智能预测模型可能存在人口统计偏见。这可能导致针对患者住院时长等预测结果的医疗不平等。因此，有必要在这些模型中消除人口统计偏见。我们提出一种隐式的、在处理过程中进行的去偏方法，以应对当机器学习模型基于敏感属性（如性别、族裔、种族等）对个体给出不同结果这一问题。为此，我们使用心力衰竭患者的临床笔记，包含诊断代码、手术报告及患者生理指标。我们采用 Clinical BERT 获取诊断代码和手术报告中的特征嵌入，采用 LSTM 自编码器获取生理指标中的特征嵌入。随后，我们训练两个独立的深度学习对比学习框架，分别针对性别和族裔，以获得这些人口统计特征的去偏表示。我们将其称为 Debias-CLR。我们利用前期研究中从诊断代码和手术报告中识别的临床表型来统计衡量公平性。我们发现，针对性别和族裔的 Debias-CLR 能够降低单类别词嵌入关联测试（SC-WEAT）效应大小分数。进一步我们发现，使用 Debias-CLR 可在不降低预测模型在预测患者住院时长等下游任务准确率的前提下，获得公平且具代表性的嵌入表示，从而有效消除人口统计偏见，减少健康差异。