基于临床文本的多发性硬化症严重程度分类
计算与语言
2020-10-30 v1 机器学习
摘要
多发性硬化症（MS）是一种慢性、炎症性和退行性神经疾病，由专科医生使用扩展残疾状态量表（EDSS）进行监测，并以神经科会诊记录的非结构化文本形式记录。EDSS测量包含一个总体“EDSS”评分和若干功能子评分。通常，需要专家知识来解释会诊记录并生成这些评分。先前的方法使用有限上下文长度的Word2Vec嵌入和关键词搜索，在给定会诊记录的情况下预测评分，但在评分未明确陈述时常常失败。在这项工作中，我们提出了MS-BERT，这是第一个在MIMIC之外的真实临床数据上训练的公开可用Transformer模型。接下来，我们提出MSBC，一种应用MS-BERT生成嵌入并预测EDSS及功能子评分的分类器。最后，我们探索通过使用Snorkel将MSBC与其他模型结合，为未标记的会诊记录生成评分。MSBC在所有指标和预测任务上均达到最先进性能，并优于Snorkel集成生成的模型。与先前的Word2Vec CNN和基于规则的方法相比，我们将预测EDSS的Macro-F1提高了0.12（达到0.88），预测功能子评分的平均Macro-F1提高了0.29（达到0.63）。
引用
@article{arxiv.2010.15316,
title = {Multiple Sclerosis Severity Classification From Clinical Text},
author = {Alister D Costa and Stefan Denkovski and Michal Malyska and Sae Young Moon and Brandon Rufino and Zhen Yang and Taylor Killian and Marzyeh Ghassemi},
journal= {arXiv preprint arXiv:2010.15316},
year = {2020}
}
备注
EMNLP 2020 Clinical NLP workshop