医疗中的目标设定偏差、反事实预测与算法公平性

机器学习（ML）在医疗中的应用偏差通常归因于不具代表性或不完整的数据，或潜在的医疗不平等。本文指出了一种影响 ML 赋能预测工具临床效用的更普遍偏差来源：目标设定偏差。当目标变量的操作化定义与决策者的定义不匹配时，就会产生目标设定偏差。这种不匹配往往微妙，并源于决策者通常感兴趣的是预测反事实而非实际医疗场景的结果。目标设定偏差独立于数据局限与医疗不平等而存在。若不加纠正，它会导致预测准确性的高估、医疗资源利用效率低下，以及可能伤害患者的最次决策。计量学（测量科学）的近期工作提供了抵消目标设定偏差并避免其有害后果的方法。