中文

基于弱监督与迁移学习的自动SOAP分类系统

计算与语言 2022-11-29 v1

摘要

本文介绍了一种基于机器学习的SOAP(主观、客观、评估与计划)分类系统的综合框架,该框架无需人工SOAP标注训练数据,或仅需较少人工SOAP标注训练数据。系统由以下三部分组成:1)数据构建,2)基于神经网络的SOAP分类器,3)迁移学习框架。在数据构建中,由于人工构建大规模训练数据集代价高昂,我们提出了一种利用电子健康记录(EHR)笔记结构化信息的基于规则的弱标注方法。随后,我们给出了由预训练语言模型与带条件随机场的双向长短期记忆(Bi-LSTM-CRF)构成的SOAP分类器。最后,我们提出了一种迁移学习框架,将使用弱标注数据集训练好的SOAP分类器参数复用于另一医院收集的数据集。所提出的基于弱标注的学习模型在目标医院收集的笔记上成功完成了SOAP分类(89.99 F1分数)。而在其他医院与科室收集的笔记上,性能急剧下降。同时,我们验证了迁移学习框架有利于模型的跨医院适配,在各类情况下均提升了模型性能。特别地,当人工标注数据规模较小时,迁移学习方法更为高效。我们表明,使用我们的弱标注算法训练的SOAP分类模型可在同一医院的EHR笔记上无需人工标注数据即可完成SOAP分类。迁移学习框架以最小规模的人工标注数据集助力SOAP分类模型的跨医院迁移。

关键词

引用

@article{arxiv.2211.14539,
  title  = {An Automatic SOAP Classification System Using Weakly Supervision And Transfer Learning},
  author = {Sunjae Kwon and Zhichao Yang and Hong Yu},
  journal= {arXiv preprint arXiv:2211.14539},
  year   = {2022}
}