算法偏见、通用模型与临床医学

临床机器学习的技术格局正在发生转变，这种转变动摇了关于算法偏见本质与成因的普遍假设。一方面，临床机器学习的主导范式是狭义的，即模型在生物医学数据集上针对特定临床任务（如诊断与治疗推荐）进行训练。另一方面，新兴范式是通用性的，即如Google的BERT与PaLM等通用语言模型正越来越多地通过在生物医学数据集上提示或微调而用于临床场景。这些下一代模型中的许多相较先前的临床模型带来了显著的性能提升，但同时也引入了新颖的算法偏见类型，并使算法偏见与训练数据中偏见之间的解释性关系复杂化。本文阐明了通用模型中的偏见在哪些方面、以何种方式不同于先前临床模型中的偏见，并给出了算法偏见缓解的实用建议。