面向预测任务的临床笔记注意力机制分析
计算与语言
2019-04-09 v1 人工智能
摘要
向电子病历(EMRs)的转变为分析患者记录并从中预测关注的临床结局的机器学习与自然语言技术研究提供了动力。两点观察激发了我们的目标。首先,EMR 中包含的非结构化笔记通常含有关键信息,因此应被模型所利用。其次,虽然强大的预测性能很重要,但在该领域应用中模型的可解释性或许同样重要。这些要点共同表明,EMR 的神经模型可能受益于对笔记引入注意力机制,人们或可期望其既带来性能提升又提供预测透明度。在这项工作中,我们使用两个 EMR 语料库和四种不同的预测任务进行实验以探究这一问题,结果表明:(i) 对于在笔记字段上运行的神经编码器模块,引入注意力机制对于取得有竞争力的性能至关重要;但(ii) 遗憾的是,尽管这些机制提升了预测性能,它们是否能为预测提供有意义的可解释支持则显然远不明确。
引用
@article{arxiv.1904.03244,
title = {An Analysis of Attention over Clinical Notes for Predictive Tasks},
author = {Sarthak Jain and Ramin Mohammadi and Byron C. Wallace},
journal= {arXiv preprint arXiv:1904.03244},
year = {2019}
}
备注
Accepted at The 2nd Clinical Natural Language Processing Workshop (At NAACL 2019)