OSLAT：用于医学实体检索与跨度抽取的开集标签注意力 Transformer
计算与语言
2022-11-22 v2 人工智能
机器学习
摘要
医学实体跨度抽取与链接是许多医疗 NLP 任务的关键步骤。大多数现有实体抽取方法要么具有固定的医学实体词表，要么需要跨度标注。本文中，我们提出一种链接开集实体的方法，无需任何跨度标注。我们的方法，开集标签注意力 Transformer（OSLAT），使用标签注意力机制学习候选实体的上下文化文本表示。我们发现 OSLAT 不仅能链接实体，还能隐式学习与实体相关的跨度。我们在两项任务上评估 OSLAT：（1）无显式跨度标注训练的跨度抽取，以及（2）无跨度级标注训练的实体链接。我们通过在两个实体重叠度低的数据集上分别训练两个独立模型并比较跨数据集性能，检验了方法的泛化性。
引用
@article{arxiv.2207.05817,
title = {OSLAT: Open Set Label Attention Transformer for Medical Entity Retrieval and Span Extraction},
author = {Raymond Li and Ilya Valmianski and Li Deng and Xavier Amatriain and Anitha Kannan},
journal= {arXiv preprint arXiv:2207.05817},
year = {2022}
}
备注
18 pages, 2 figures, Camera-Ready for ML4H 2022 (Proceedings Track)