一种用于长临床文本的可解释端到端微调方法
计算与语言
2020-11-13 v1 计算机与社会
摘要
电子健康记录（EHR）中的非结构化临床文本包含用于决策支持、试验匹配和回顾性研究等应用的关键信息。鉴于 BERT 类模型在其他 NLP 领域的最先进性能，近期工作已将其应用于临床信息抽取和文本分类。然而，BERT 难以应用于临床笔记，因为它不能很好地扩展到长文本序列。在这项工作中，我们提出一种称为 SnipBERT 的新型微调方法。SnipBERT 不是使用完整笔记，而是识别关键片段，然后以分层方式将其输入截断的 BERT 基模型。经验上，SnipBERT 不仅在三项任务上取得显著的预测性能提升，还提供了改进的可解释性，因为模型可以识别导致其预测的关键文本片段。
引用
@article{arxiv.2011.06504,
title = {An Interpretable End-to-end Fine-tuning Approach for Long Clinical Text},
author = {Kexin Huang and Sankeerth Garapati and Alexander S. Rich},
journal= {arXiv preprint arXiv:2011.06504},
year = {2020}
}
备注
Machine Learning for Health (ML4H) at NeurIPS 2020 - Extended Abstract