面向临床 why-问答的深度学习语言模型的适配与评估
计算与语言
2020-03-09 v1
摘要
目的：适配并评估一种基于患者特异性临床文本回答 why-问题的深度学习语言模型。材料与方法：训练双向编码器来自变换器(bidirectional encoder representations from transformers, BERT)模型，使用不同数据源，以在病历记录上执行 SQuAD 2.0 风格的 why-问答(why-QA)。评估聚焦于：1) 比较不同训练数据的优劣；2) 错误分析。结果：最佳模型达到了 0.707 的准确率(或部分匹配下 0.760)。针对临床语言的定制化训练使准确率提升了 6%。讨论：错误分析表明，该模型并未真正进行深层推理，临床 why-QA 可能需要更复杂的解决方案。结论：BERT 模型在临床 why-QA 中取得了中等水平的准确率，并应受益于快速发展的技术。尽管存在已识别的局限，它仍可作为问题驱动的临床信息提取的可靠替代方案。
引用
@article{arxiv.1911.05604,
title = {Adapting and evaluating a deep learning language model for clinical why-question answering},
author = {Andrew Wen and Mohamed Y. Elwazir and Sungrim Moon and Jungwei Fan},
journal= {arXiv preprint arXiv:1911.05604},
year = {2020}
}