隐性问题——机器学习模型失效——如何诊断与修复病态机器学习模型

COVID-19 大流行显著改变了向患者提供医疗的方式、患者与医疗提供者的互动方式，以及医疗信息向医疗提供者和患者的传播方式。在大流行前训练并测试的解析模型可能不再达到预期表现，鉴于 ML 依赖于过去发生之事可能在未来重演这一基本原则，它们提供了不可靠且无关的学习（ML）模型。ML 面临两个重要的退化原则：概念漂移，即变量的底层属性与特征发生变化；数据漂移，即数据分布、概率、协变量及其他变量关系发生变化；二者皆为模型失效的主要元凶。因此，检测并诊断现有模型中的漂移已成为当务之急。或许更为重要的是我们心态的转变，即有意识地认识到漂移不可避免，且模型构建必须纳入有意的韧性（迅速抵消并从失效中恢复的能力）与主动的鲁棒性（通过开发较不易受漂移与中断影响的模型来避免失效）。