用于临床文本中实体修饰语预测的迁移学习：在阿片类药物使用障碍病例检测中的应用
计算与语言
2024-02-06 v2 人工智能
机器学习
摘要
背景：从临床文本中提取的实体的语义可能会被修饰语显著改变，包括实体否定、不确定性、条件性、严重性和主语。用于确定临床实体修饰语的现有模型涉及正则表达式或针对每个修饰语独立训练的特征权重。方法：我们开发并评估了一种多任务 Transformer 架构设计，其中修饰语是使用公开的 SemEval 2015 Task 14 语料库和一个新的阿片类药物使用障碍 (OUD) 数据集联合学习和预测的，该数据集包含与 SemEval 共享的修饰语以及 OUD 特有的新修饰语。我们评估了多任务学习方法相对于先前已发表系统的有效性，并评估了当只有部分临床修饰语共享时，临床实体修饰语迁移学习的可行性。结果：我们的方法在 SemEval 2015 Task 14 的 ShARe 语料库上取得了 state-of-the-art 的结果，加权准确率提高了 1.1%，非加权准确率提高了 1.7%，micro F1 分数提高了 10%。结论：我们表明，从我们的共享模型中学习到的权重可以有效地转移到新的部分匹配的数据集中，验证了迁移学习在临床文本修饰语中的使用。
引用
@article{arxiv.2401.15222,
title = {Transfer Learning for the Prediction of Entity Modifiers in Clinical Text: Application to Opioid Use Disorder Case Detection},
author = {Abdullateef I. Almudaifer and Whitney Covington and JaMor Hairston and Zachary Deitch and Ankit Anand and Caleb M. Carroll and Estera Crisan and William Bradford and Lauren Walter and Eaton Ellen and Sue S. Feldman and John D. Osborne},
journal= {arXiv preprint arXiv:2401.15222},
year = {2024}
}
备注
18 pages, 2 figures, 6 tables. To be submitted to the Journal of Biomedical Semantics