HOLMES:面向重症监护病房深度学习模型的健康在线模型集成服务系统
机器学习
2020-08-11 v1 机器学习
摘要
深度学习模型在医疗健康领域已取得专家级性能,但以往仅专注于训练准确模型。然而,在诸多临床环境如重症监护病房(ICU)中,实时模型服务与准确性同等重要甚至更为重要,因为 ICU 中患者护理更紧迫且更昂贵。因此,临床决策及其及时性直接影响患者结局与护理成本。为做出及时决策,我们认为底层服务系统必须具备延迟感知能力。更棘手的是,健康分析应用常需模型组合而非单一模型,以更好地针对不同的目标、多模态数据、不同预测窗口以及潜在的个性化预测来专门化各个模型。为应对这些挑战,我们提出 HOLMES——一个面向医疗健康应用的在线模型集成服务框架。HOLMES 动态识别性能最佳的一组模型进行集成以获得最高准确率,同时满足端到端预测的次秒级延迟约束。我们证明 HOLMES 能高效权衡准确率与延迟、组合集成并服务模型集成流水线,可扩展至同时处理来自 100 名患者的流式数据,每人以 250~Hz 产生波形数据。HOLMES 在相同临床任务上优于传统离线批处理推理,无论准确率还是延迟(达数量级)。HOLMES 在儿科心脏 ICU 数据的风险预测任务上测试,预测准确率超 95%,在 64 床仿真中实现次秒级延迟。
引用
@article{arxiv.2008.04063,
title = {HOLMES: Health OnLine Model Ensemble Serving for Deep Learning Models in Intensive Care Units},
author = {Shenda Hong and Yanbo Xu and Alind Khare and Satria Priambada and Kevin Maher and Alaa Aljiffry and Jimeng Sun and Alexey Tumanov},
journal= {arXiv preprint arXiv:2008.04063},
year = {2020}
}