EHR 时间序列数据上多任务学习与多任务预训练的综合评估
机器学习
2020-07-21 v1 机器学习
摘要
多任务学习（MTL）是一种通过跨多个任务利用信息来提升模型性能的机器学习技术。它已广泛应用于包括电子健康记录（EHR）数据在内的多种数据模态。然而，尽管在 EHR 数据上被广泛使用，关于 MTL 在医疗领域众多可能任务与训练方案中的效用，尚缺乏系统性研究。本工作中，我们在一组 EHR 时间序列数据的系列任务上考察了 MTL。我们发现尽管 MTL 确实存在常见的负迁移，但可通过 MTL 预训练结合单任务微调实现显著收益。我们证明这些收益可以任务无关的方式获得，不仅在传统学习下带来微小改进，更在少样本学习情境中带来可观增益，从而表明其可作为在重要医疗场景中提供改进性能的可扩展途径。
引用
@article{arxiv.2007.10185,
title = {A Comprehensive Evaluation of Multi-task Learning and Multi-task Pre-training on EHR Time-series Data},
author = {Matthew B. A. McDermott and Bret Nestor and Evan Kim and Wancong Zhang and Anna Goldenberg and Peter Szolovits and Marzyeh Ghassemi},
journal= {arXiv preprint arXiv:2007.10185},
year = {2020}
}