医疗领域中算法公平的净收益、校准、阈值选择与训练目标

越来越多的工作使用算法公平范式来构建技术，以预期并主动缓解因采用模型引导的决策而可能引入或加剧的健康不平等。我们评估了模型性能、公平性与决策期望效用之间的相互作用，为在医疗预测模型的开发与评估中落实算法公平原则提供实用建议。我们通过开发估算十年动脉粥样硬化性心血管疾病风险以依据临床实践指南指导他汀类药物启动的模型，开展了一项实证案例研究。我们证明，与采用标准学习范式后再根据患者偏好、干预有效性证据和模型校准进行阈值选择相比，将公平考量纳入模型训练目标的方法通常并不能改善模型性能，也无法为任一研究所涉患者群体带来更大净收益。在测量结果未受跨患者群体差异测量误差影响且阈值选择不受约束时，无论是否存在模型性能指标（如真阳性与假阳性错误率）的差异，这些结果均成立。最后，我们主张将模型开发工作的重点放在为所有患者群体开发预测结果良好的校准模型上，同时强调此类工作应与透明报告、参与式设计以及结合情境推演模型指导干预的影响相辅相成。