用于医学概念嵌入的时间自注意力网络
计算与语言
2020-06-16 v1 机器学习
摘要
在纵向电子健康记录（EHRs）中，患者的事件记录分布在较长的时间跨度上，事件间的时间关系反映了充足的领域知识，有助于诸如住院死亡率等预测任务。医学概念嵌入作为一种特征提取方法，将一组带有特定时间戳的医学概念转换为向量，并输入至监督学习算法。嵌入的质量显著决定了医学数据上的学习性能。本文中，我们提出一种基于自注意力机制来表示每个医学概念的医学概念嵌入方法。我们提出了一种新颖的注意力机制，可捕获医学概念间的上下文信息与时间关系。随后提出了一个轻量级神经网络“时间自注意力网络（TeSAN）”，仅基于所提注意力机制来学习医学概念嵌入。为检验所提方法的有效性，我们在两个公开 EHRs 数据集上进行了聚类与预测任务，将 TeSAN 与五种最先进的嵌入方法进行比较。实验结果表明，所提 TeSAN 模型优于所有对比方法。据我们所知，本工作是首个利用医学事件间时间自注意力关系的研究。
引用
@article{arxiv.1909.06886,
title = {Temporal Self-Attention Network for Medical Concept Embedding},
author = {Xueping Peng and Guodong Long and Tao Shen and Sen Wang and Jing Jiang and Michael Blumenstein},
journal= {arXiv preprint arXiv:1909.06886},
year = {2020}
}
备注
10 pages, 7 figures, accepted at IEEE ICDM 2019